Hugging Face · 新模型:uncensored·· 13 小时前精选AI 评分54
zhang821102 发布 Gemma4-31B QAT 无对齐 GGUF 版,附 MTP 投机解码提速
zhang821102/Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/zhang821102/Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
zhang821102 在 Hugging Face 发布基于官方 QAT 权重的 Gemma4-31B 无对齐版本(HauhauCS Balanced 变体),自动与手动拒绝基准实测 0/465 拒绝,数据集与能力未改动。附带来自 Unsloth 的 MTP 投机解码草稿头,经 llama.cpp 实测生成约快 53% 且输出一致;提供 Q4_K_M 量化(18.7 GB)、mmproj 视觉文件与推荐采样参数,兼容 llama.cpp、LM Studio、Jan 等运行时。
推荐理由
作者给出 0/465 拒绝率的自动与手动实测数据,并说明 MTP 投机解码约 53% 提速且输出不变,可据此评估该版本。
来源:Hugging Face · 新模型:uncensored · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。