Hugging Face · 新模型:abliterated·· 1 小时前精选AI 评分60
FrostWolfAI 发布 Spark-X2.6-4B 去对齐版 GGUF 量化包
FrostWolfAI/Spark-X2.6-4B-abliterated-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/FrostWolfAI/Spark-X2.6-4B-abliterated-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
FrostWolfAI 发布 Spark-X2.6-4B-abliterated-GGUF,用 Heretic v2 的 Arbitrary-Rank Ablation 对 XHToken/Spark-X2.6-4B 去审查,拒绝率从 100/100 降到 2/100,KL 散度 0.0177。提供 BF16 加 14 种量化共 44.53 GB,4-bit 权重约 2.4-2.6 GB,保留 1M token 上下文、可控思考与工具调用,需支持 spark2_5 架构的 llama.cpp 构建;作者提醒去对齐只移除拒绝方向,不增加能力,部署时需自行负责安全过滤。
推荐理由
原文给出 ARA 消融方法、拒绝率从 100/100 降到 2/100 和 KL 散度数据,可据此判断去对齐程度与代价。
来源:Hugging Face · 新模型:abliterated · huggingface.co