跳到正文
Hugging Face · 新模型:abliterated·· 23 天前精选AI 评分68

TechPrototyper 发布 Gemma4-31B 6-bit 量化版的原格式去对齐权重

TechPrototyper/Gemma4-31B-IT-PrismaQuant-6bit-abliterated-vllm

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/TechPrototyper/Gemma4-31B-IT-PrismaQuant-6bit-abliterated-vllm

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

TechPrototyper 在 rdtand 的 PrismaQuant 6-bit 量化构建内,将 BF16 去对齐供体的权重移植进 118 个张量并按原量化网格重编码,不重新量化。

推荐理由

原文给出拒绝率前后对比、逐项验证和已知回归,读者可据此判断这种不改量化布局的去对齐做法是否值得采用。

来源:Hugging Face · 新模型:abliterated · huggingface.co