Hugging Face · 新模型:uncensored·· 18 天前精选AI 评分57
dima6312 发布 Swift-1.5-Qwen3.8-27B Uncensored 的 MLX oQ4e 量化版
dima6312/Swift-1.5-Qwen3.8-27B-Uncensored-oQ4e-mtp
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/dima6312/Swift-1.5-Qwen3.8-27B-Uncensored-oQ4e-mtp
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
dima6312 在 Hugging Face 上发布 ajgazin 的 Swift-1.5-Qwen3.8-27B Uncensored(UkisAI Swift 1.5 的 abliterated 版)的 MLX oQ4e 量化,体积 17.0 GB、4.9 bits per weight,仅做量化未改其他内容,并保留 MTP 头以支持 oMLX 中的自推测解码。在 M4 Pro 48GB 上实测:编码任务 21/24、工具调用 27/30、100 条提示词拒绝 11 次(原模型为 97 次),解码 39.8 tok/s,MTP 接受率 87.5%;模型沿用 Swift Open License v1.0,年收入超 100 万美元的组织商用需 UkisAI 的企业授权。
推荐理由
作者用统一的拒绝率测试对比了量化版与原模型,还保留了 MTP 头并给出解码速度,量化质量有实测数据可查。
来源:Hugging Face · 新模型:uncensored · huggingface.co