跳到正文
更多
Hugging Face · 新模型:abliterated·· 1 天前精选AI 评分55

exeterminal 发布 gpt-oss-20b 去对齐版 MXFP4 GGUF,22 条测试请求 0 拒绝

exeterminal/gpt-oss-20b-abliterated-MXFP4-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/exeterminal/gpt-oss-20b-abliterated-MXFP4-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

exeterminal 将 wangzhang 的 gpt-oss-20b 去对齐模型转回 MXFP4 并发布 GGUF 格式,大小 12.1 GB,另附可选的 651 MB 视觉投影器。实测 22 条德语测试请求(16 条灰色地带、6 条高难度)全部无拒绝,原版拒绝 11 条;作者解释专家权重原始只有 MXFP4 值,转回 MXFP4 未改动权重可精确还原原值,K 量化则会额外膨胀 3.7 GB 并引入舍入误差。RTX 3090 上生成速度约 184 tokens/s,12 GB 显存可用 --fit 把专家张量移入内存;作者提示去对齐只移除拒绝、不增加知识,德语回答较弱,图像识读粗糙。

推荐理由

作者用 22 条德语请求实测了原版与去对齐版的拒绝数对比,还解释了为什么转回 MXFP4 比转 K 量化更保真。

来源:Hugging Face · 新模型:abliterated · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。