AIHOT · 精选· noreply@aihot.news (Unsloth)·· 15 小时前精选AI 评分59
Unsloth 发布 MiniMax-M3.1-Flash 量化 GGUF,2-bit 版可在 150GB 内存本地运行
来源与原文
AIHOT · 精选
作者:noreply@aihot.news (Unsloth)
发布时间:(北京时间)
阅读原始来源 · aihot.news ↗完整链接与内容说明
https://aihot.news/items/pkw262qrrom8w7qv6lq7nquxh
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Unsloth 发布 MiniMax-M3.1-Flash 的量化 GGUF,2-bit 版在体积缩小 45% 的同时保留 91.5% top 1 精度,可在 150GB 内存上本地运行。1-bit 版约 89.9%,4-bit UD-Q4_K_XL 达 98.0%;作者称其为同尺寸最强开源模型之一,并提供 Hugging Face 权重链接与本地运行指南。
推荐理由
给出了各量化档位的具体精度数字和内存门槛,读者可直接对照自己的硬件条件选择合适的版本。
来源:AIHOT · 精选 · aihot.news