Hugging Face · 新模型:abliterated·· 20 天前精选AI 评分61
Huihui-Qwen3.8-27B-abliterated 8-bit Splash 包发布,含 DFlash2 推测解码与实测基准
SilverSurfer79/Huihui-Qwen3.8-27B-abliterated-Splash-8bit
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/SilverSurfer79/Huihui-Qwen3.8-27B-abliterated-Splash-8bit
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
SilverSurfer79 在 Hugging Face 发布 huihui-ai Huihui-Qwen3.8-27B-abliterated 的 8-bit(GGUF Q8_0)Splash 打包版,面向 Apple silicon 的 LM Studio,权重与源文件逐字节一致,附带 Inco AI 的 DFlash2 草稿模型和视觉塔,上下文 262,144 tokens,Apache 2.0。在 M5 Max 上实测比 huihui-ai Q6_K_L GGUF 快 1.2-2.8 倍(代码 2.8 倍),文本七项测试均分 9.37,与 Q6_K_L 的 9.66 相差在噪声范围内;需 M3 及以上和约 35 GB 内存,推荐 48 GB Mac。
推荐理由
作者用同一套固定设置对比了四种量化和运行时组合,并给出逐项准确率与速度数据,对 Mac 本地部署选型有直接参考价值。
来源:Hugging Face · 新模型:abliterated · huggingface.co