GitHub · 灵魂体仓库·· 19 天前AI 评分11
turboquant-gpu：NVIDIA 显卡上的 KV cache 压缩加速工具发布
Tobiaszn8972/turboquant-gpu
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Tobiaszn8972/turboquant-gpu
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 turboquant-gpu 是一款通过压缩显存中的 KV cache 来加速文本生成 AI 程序的 Windows 工具，宣称速度较标准设置提升 5 倍以上。它要求至少 8GB 显存的 NVIDIA 独立显卡、16GB 内存和 Windows 10/11，通过 .exe 安装包下载安装，数据完全在本地处理。该工具会显示压缩比曲线，并提示若 Windows 报受保护文件需选“仍要运行”。
来源：GitHub · 灵魂体仓库 · github.com