Hugging Face · 新模型:abliterated·· 1 天前精选AI 评分55
exeterminal 发布 gpt-oss-20b 去对齐版 MXFP4 GGUF,22 条测试请求 0 拒绝
exeterminal/gpt-oss-20b-abliterated-MXFP4-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/exeterminal/gpt-oss-20b-abliterated-MXFP4-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
exeterminal 将 wangzhang 的 gpt-oss-20b 去对齐模型转回 MXFP4 并发布 GGUF 格式,大小 12.1 GB,另附可选的 651 MB 视觉投影器。实测 22 条德语测试请求(16 条灰色地带、6 条高难度)全部无拒绝,原版拒绝 11 条;作者解释专家权重原始只有 MXFP4 值,转回 MXFP4 未改动权重可精确还原原值,K 量化则会额外膨胀 3.7 GB 并引入舍入误差。RTX 3090 上生成速度约 184 tokens/s,12 GB 显存可用 --fit 把专家张量移入内存;作者提示去对齐只移除拒绝、不增加知识,德语回答较弱,图像识读粗糙。
推荐理由
作者用 22 条德语请求实测了原版与去对齐版的拒绝数对比,还解释了为什么转回 MXFP4 比转 K 量化更保真。
来源:Hugging Face · 新模型:abliterated · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。