跳到正文
Reddit · r/LocalLLaMA· /u/OuterKey·· 12 天前AI 评分22

如何减少大型项目中的频繁 compaction?LocalLLaMA 用户求策

Ways to reduce frequent compaction on larger projects?

来源与原文

Reddit · r/LocalLLaMA

作者:/u/OuterKey

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1x5uhme/ways_to_reduce_frequent_compaction_on_larger/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位 Reddit r/LocalLLaMA 用户在 R9700 上运行 Qwen 3.8 27B 处理大型代码项目时,遇到 compaction 越来越频繁、最终陷入压缩循环无法干活的问题。他改用 Q4_K_XL 量化加 Q8 KV cache,把上下文从 100-150k 提升到 200k tokens,并考虑通过代码索引(函数签名加注释和行号、完整展示 struct)或提高模块化程度来收窄模型关注范围,但尚未找到彻底有效的方案。

来源:Reddit · r/LocalLLaMA · reddit.com