Hugging Face · 新模型:abliterated·· 12 天前精选AI 评分63
Xananthium 发布 REDCELL-26B-A4B 消融试验版 W6A8 量化权重
Xananthium/REDCELL-26B-A4B-OSINT-Cyber-Abliterated-Pilot-W6A8-Vision
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Xananthium/REDCELL-26B-A4B-OSINT-Cyber-Abliterated-Pilot-W6A8-Vision
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Xananthium 在 Hugging Face 发布 REDCELL-26B-A4B-OSINT-Cyber-Abliterated-Pilot-W6A8-Vision,对 terrorswift 的 REDCELL(Gemma 4 26B-A4B 微调)做 abliterated 权重编辑并导出 W6A8 量化。16 条保留集拒绝标记从 16/16 降到 4/16,能力探针保持 19/20,工具调用、工具失败后改道和简单图像识别均通过;使用 Heretic 的保幅值正交消融加 rank-3 修正,编辑覆盖 30 个注意力输出投影、30 个稠密 MLP down 投影和 3,840 个专家 down 投影,路由器和视觉模块保持 BF16。
推荐理由
作者给出了消融前后的拒绝率对照、能力探针和 KL 数值,还标注了未测项,读者可自行核对这个 W6A8 版本的实际取舍。
来源:Hugging Face · 新模型:abliterated · huggingface.co