aither-kvcache：近最优 KV cache 压缩工具，支持 TurboQuant、TriAttention 与跨模型 KVTransfer

aither-kvcache 是面向 LLM 推理的 KV cache 压缩库，提供两种引擎：TurboQuant 向量量化实现 2-4 bit、相对 FP16 3.8-7.1× 压缩且无需校准数据；TriAttention v2.0 通过三角级数保留 top RoPE 频率对，在 F=8-16 下压缩 14-26×，并提供 Qwen3.5、Nemotron、DeepSeek-R1 和 Llama 3.1 的校准配置。v2.4 新增 KVTransfer，可将一个模型的 KV cache 转换给同 tokenizer 的另一模型以跳过 prefill。库通过 pip 安装，可独立安装、离线运行。