GitHub · 灵魂体仓库·2026-10-09 15:22· 18 天前AI 评分36

turboquant：将 LLM KV cache 压缩 5–7 倍且几乎零精度损失

vanessaunliterary62/turboquant

来源与原文

GitHub · 灵魂体仓库

发布时间：2026-10-09 15:22（北京时间）

完整链接与内容说明

https://github.com/vanessaunliterary62/turboquant

本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 项目 turboquant 可将 LLM 的 KV cache 压缩 5–7 倍，精度损失接近零，从而支持更长上下文并降低 GPU 占用。