跳到正文
10月15日周四
  1. Reddit · r/LocalLLaMA22

    如何减少大型项目中的频繁 compaction?LocalLLaMA 用户求策

    一位 Reddit r/LocalLLaMA 用户在 R9700 上运行 Qwen 3.8 27B 处理大型代码项目时,遇到 compaction 越来越频繁、最终陷入压缩循环无法干活的问题。他改用 Q4_K_XL 量化加 Q8 KV cache,把上下文从 100-150k 提升到 200k tokens,并考虑通过代码索引(函数签名加注释和行号、完整展示 struct)或提高模块化程度来收窄模型关注范围,但尚未找到彻底有效的方案。