Hugging Face · 新模型:abliterated·· 23 天前精选AI 评分68
TechPrototyper 发布 Gemma4-31B 6-bit 量化版的原格式去对齐权重
TechPrototyper/Gemma4-31B-IT-PrismaQuant-6bit-abliterated-vllm
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/TechPrototyper/Gemma4-31B-IT-PrismaQuant-6bit-abliterated-vllm
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
TechPrototyper 在 rdtand 的 PrismaQuant 6-bit 量化构建内,将 BF16 去对齐供体的权重移植进 118 个张量并按原量化网格重编码,不重新量化。
推荐理由
原文给出拒绝率前后对比、逐项验证和已知回归,读者可据此判断这种不改量化布局的去对齐做法是否值得采用。
来源:Hugging Face · 新模型:abliterated · huggingface.co