跳到正文
更多
Hugging Face · 新模型:uncensored·· 13 小时前精选AI 评分54

zhang821102 发布 Gemma4-31B QAT 无对齐 GGUF 版,附 MTP 投机解码提速

zhang821102/Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/zhang821102/Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

zhang821102 在 Hugging Face 发布基于官方 QAT 权重的 Gemma4-31B 无对齐版本(HauhauCS Balanced 变体),自动与手动拒绝基准实测 0/465 拒绝,数据集与能力未改动。附带来自 Unsloth 的 MTP 投机解码草稿头,经 llama.cpp 实测生成约快 53% 且输出一致;提供 Q4_K_M 量化(18.7 GB)、mmproj 视觉文件与推荐采样参数,兼容 llama.cpp、LM Studio、Jan 等运行时。

推荐理由

作者给出 0/465 拒绝率的自动与手动实测数据,并说明 MTP 投机解码约 53% 提速且输出不变,可据此评估该版本。

来源:Hugging Face · 新模型:uncensored · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。