跳到正文
Hugging Face · 新模型:uncensored·· 15 天前精选AI 评分56

HauhauCS 发布 Gemma4 26B-A4B QAT 去对齐 GGUF 版,附 MTP 加速头

CCSSNE/HauhauCS-Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/CCSSNE/HauhauCS-Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

CCSSNE 在 Hugging Face 发布基于 Google DeepMind Gemma4 26B-A4B 官方 QAT 权重的去对齐 GGUF 版本,作者实测 0/465 拒绝,数据集与能力不变。推荐 Balanced 变体面向 agentic coding、推理与创作场景;附带 Unsloth 的 MTP 投机解码头,经作者在 llama.cpp 中测试生成速度约快 35% 且输出不变,支持 256K 上下文与 mmproj 视觉输入。

推荐理由

作者给出了拒绝率实测结果和消融思路,还附 MTP 投机解码速度对比,读者可自行评估这个去对齐版本的实际可用性。

来源:Hugging Face · 新模型:uncensored · huggingface.co