跳到正文
Hugging Face · 新模型:abliterated·· 1 小时前精选AI 评分60

FrostWolfAI 发布 Spark-X2.6-4B 去对齐版 GGUF 量化包

FrostWolfAI/Spark-X2.6-4B-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/FrostWolfAI/Spark-X2.6-4B-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

FrostWolfAI 发布 Spark-X2.6-4B-abliterated-GGUF,用 Heretic v2 的 Arbitrary-Rank Ablation 对 XHToken/Spark-X2.6-4B 去审查,拒绝率从 100/100 降到 2/100,KL 散度 0.0177。提供 BF16 加 14 种量化共 44.53 GB,4-bit 权重约 2.4-2.6 GB,保留 1M token 上下文、可控思考与工具调用,需支持 spark2_5 架构的 llama.cpp 构建;作者提醒去对齐只移除拒绝方向,不增加能力,部署时需自行负责安全过滤。

推荐理由

原文给出 ARA 消融方法、拒绝率从 100/100 降到 2/100 和 KL 散度数据,可据此判断去对齐程度与代价。

来源:Hugging Face · 新模型:abliterated · huggingface.co