Reddit · r/LocalLLaMA· /u/d77chong·· 15 天前AI 评分49
Precision Numerics 发布 1-bit 模型 Boole-1.7B,性能超越 Bonsai-1.7B
Boole-1.7B: A 1-bit Qwen3-1.7B model that outperforms Bonsai-1.7B
来源与原文
Reddit · r/LocalLLaMA
作者:/u/d77chong
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x452zj/boole17b_a_1bit_qwen317b_model_that_outperforms/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Precision Numerics 发布基于 Qwen3-1.7B 的 1-bit 模型 Boole-1.7B,打包权重仅 247 MB,比 BF16 小 13.9 倍,在 10 项评测中平均保留 BF16 模型 85.9% 的分数,超越 1-bit Bonsai-1.7B 并接近 1.58-bit 版本。该模型面向英文、非思考模式的低延迟任务,可在浏览器本地运行,也支持 vLLM 和 llama.cpp,权重已在 HuggingFace 开源。
来源:Reddit · r/LocalLLaMA · reddit.com