Reddit · r/SillyTavernAI· /u/Aspoleczniak·· 13 天前AI 评分14
SillyTavern 用户求助:使用 lorebook 时 Gemini 3.8 Flash 缓存命中率为零
Cache hit rate on card with lorebook?
来源与原文
Reddit · r/SillyTavernAI
作者:/u/Aspoleczniak
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/SillyTavernAI/comments/1xsbe2j/cache_hit_rate_on_card_with_lorebook/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 SillyTavern 用户反映,在 NanoGPT 上使用 Gemini 3.8 Flash 时,无 lorebook 的角色卡缓存命中率很高,但带 lorebook 的角色卡缓存命中率为零。其上下文窗口很大,lorebook 条目位于提示词末尾、before character、order 100,swipes 偶尔能命中缓存而新消息不能。由于高用量下无缓存成本更高,发帖人询问带 lorebook 是否可能获得缓存命中并征求建议。
来源:Reddit · r/SillyTavernAI · reddit.com