跳到正文
Reddit · r/SillyTavernAI· /u/Aspoleczniak·· 13 天前AI 评分14

SillyTavern 用户求助:使用 lorebook 时 Gemini 3.8 Flash 缓存命中率为零

Cache hit rate on card with lorebook?

来源与原文

Reddit · r/SillyTavernAI

作者:/u/Aspoleczniak

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/SillyTavernAI/comments/1xsbe2j/cache_hit_rate_on_card_with_lorebook/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位 SillyTavern 用户反映,在 NanoGPT 上使用 Gemini 3.8 Flash 时,无 lorebook 的角色卡缓存命中率很高,但带 lorebook 的角色卡缓存命中率为零。其上下文窗口很大,lorebook 条目位于提示词末尾、before character、order 100,swipes 偶尔能命中缓存而新消息不能。由于高用量下无缓存成本更高,发帖人询问带 lorebook 是否可能获得缓存命中并征求建议。

来源:Reddit · r/SillyTavernAI · reddit.com