Hugging Face · 新模型:uncensored·· 13 天前AI 评分51
Qwen3.8-9B Heretic Uncensored 4-bit MLX 量化版发布,Apple Silicon 解码提速 88%
geezyforeezy/Qwen3.8-9B-heretic-uncensored-4bit-MTPLX
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/geezyforeezy/Qwen3.8-9B-heretic-uncensored-4bit-MTPLX
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
geezyforeezy 发布 rohit267/Qwen3.8-9B-heretic-uncensored 的 4-bit MLX + MTP(MTPLX)本地版本,面向 Apple Silicon。在 M5 24GB MacBook 上实测解码速度从 21.25 提升到 40.05 tok/s(+88%),投机解码为精确校验故无损;trunk 为有损 4-bit(group size 64,约 5.0 GB),附带原生 MTP sidecar 与 rank-64 C4 LoRA 适配器(加载时合并),depth 2 下草稿接受率约 0.71。
来源:Hugging Face · 新模型:uncensored · huggingface.co