Hugging Face · 新模型:abliterated·· 4 天前AI 评分40
DeepSeek-V4.1-Flash-1017 去审查版 MLX 量化模型发布:oQ4e 版本可在 Apple Silicon 运行
bearzi/DeepSeek-V4.1-Flash-1017-abliterated-oQ4e-mtp
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/bearzi/DeepSeek-V4.1-Flash-1017-abliterated-oQ4e-mtp
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
bearzi 发布 mrfakename 制作的去审查版 DeepSeek-V4.1-Flash-1017-abliterated 的 MLX 量化模型,采用 oQ4e 级别量化,总权重 402.4 GiB,通过方向性消融移除拒答行为。在 512 GB 统一内存的 M3 Ultra 上测试:4k 上下文贪心解码 36.5 tok/s,4096 token 预填充 419 tok/s,Engram 表可留在 SSD 以节省内存。与原模型逐张量比对仅 124 个去审查编辑张量有差异。
来源:Hugging Face · 新模型:abliterated · huggingface.co