Hugging Face · 新模型:abliterated·· 4 小时前AI 评分23
therickain/Huihui-Kimi-Linear-48B-A3B-Instruct-abliterated-i1-GGUF 量化版本发布
therickcain/Huihui-Kimi-Linear-48B-A3B-Instruct-abliterated-i1-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/therickcain/Huihui-Kimi-Linear-48B-A3B-Instruct-abliterated-i1-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Hugging Face 上发布 Huihui-Kimi-Linear-48B-A3B-Instruct-abliterated 模型的 i1-GGUF 量化版本,提供从 i1-IQ1_S(10.2GB)到 i1-Q6_K(40.5GB)的多档 imatrix 量化文件,其中 i1-Q4_K_S 被标注为尺寸、速度与质量的最优平衡,i1-Q4_K_M 为推荐选项。另提供 0.3GB 的 imatrix 文件供用户自行制作量化版本。
来源:Hugging Face · 新模型:abliterated · huggingface.co