跳到正文
Reddit · r/SillyTavernAI· /u/Introvertosaurus·· 8 天前AI 评分24

Reddit 用户求助:Gemma 4 31B 是否比 Gemma 4 26B MoE 更适合 RP

Gemma 4 31B significantly better than Gemma 4 26B MoE for RP?

来源与原文

Reddit · r/SillyTavernAI

作者:/u/Introvertosaurus

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/SillyTavernAI/comments/1x9odzm/gemma_4_31b_significantly_better_than_gemma_4_26b/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位 Reddit 用户在 SillyTavern 社区发帖询问:Gemma 4 31B dense 模型用于角色扮演是否明显优于 Gemma 4 26B MoE。他用 Q5 量化对比测试,发现 31B 更能利用角色卡细节,但仍有细节翻转问题;而 26B MoE 借助优化 KV cache 运行很快,31B dense 因 CPU offloading 在其 RTX 3060 12GB 机器上生成极慢,因此纠结是否值得为升级投入大量硬件成本。

来源:Reddit · r/SillyTavernAI · reddit.com