Hugging Face · 新模型：abliterated·· 1 小时前AI 评分30
Huihui-Ornith-1.5-35B-A3B-abliterated MTPLX 混合 8/4-bit FP16 量化版发布
npario/Huihui-Ornith-1.5-35B-A3B-abliterated-MTPLX-mixed8-4bit-FP16
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/npario/Huihui-Ornith-1.5-35B-A3B-abliterated-MTPLX-mixed8-4bit-FP16
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
基于 huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated 制作的 MTPLX 混合 8/4-bit FP16 量化版，去除第 11–29 层拒绝行为，采用 4-bit affine（group 32）量化 MoE 专家、8-bit（group 64）量化注意力投影，主干 dtype fp16 并带 MTP sidecar。在 Apple Silicon 上支持原生 MTP 推测解码，M1 Max 64GB 下 D2 调优后达 74.0 tok/s、1.49x 加速；MIT 许可，用 mtplx serve 命令下载运行。
来源：Hugging Face · 新模型：abliterated · huggingface.co