跳到正文
热点事件持续更新

FrostWolfAI 发布 Spark-X2.6-4B 去对齐版及 GGUF 量化包

2 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

FrostWolfAI 在 Hugging Face 发布 XHToken/Spark-X2.6-4B 的去对齐版本 Spark-X2.6-4B-abliterated,用 Heretic v2 的 ARA 低秩权重编辑抑制拒绝行为,不做微调。据其发布数据,拒绝数从 100/100 降到 2/100,KL 散度 0.0177,对无害提示的措辞和格式漂移很小;该版本仅去除拒绝行为,不增加能力。 随后又发布了 GGUF 量化合集 Spark-X2.6-4B-abliterated-GGUF,含 BF16 加 14 种量化共 44.53 GB,4-bit 权重约 2.4-2.6 GB。作者提醒部署时需自行负责安全过滤。 运行要求:BF16 权重约 8.22 GB,布局与原模型一致,原模型卡的 SGLang 和 vLLM 配方可直接沿用;GGUF 版需支持 spark2_5 架构的 llama.cpp 构建(测试于 build 11669),Ollama、LM Studio、Jan 等内置 llama.cpp 的应用需其内置引擎支持 spark2_5 才能加载。两版均为 Apache-2.0 许可,reproduce/ 目录含复现配方。

AI 根据报道生成 · 1 小时前更新

事件进展

2 个进展

  1. 10月29日 23:59 · 1 篇报道
    Spark-X2.6-4B 去对齐版 GGUF 量化发布
    Hugging Face · 新模型:abliterated:FrostWolfAI 发布 Spark-X2.6-4B 去对齐版 GGUF 量化包
  2. 10月29日 23:31 · 1 篇报道
    FrostWolfAI 发布 Spark-X2.6-4B 去对齐版
    Hugging Face · 新模型:abliterated:FrostWolfAI 发布 Spark-X2.6-4B-abliterated 去对齐版本

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. Hugging Face · 新模型:abliterated精选
    FrostWolfAI 发布 Spark-X2.6-4B 去对齐版 GGUF 量化包

    FrostWolfAI 发布 Spark-X2.6-4B-abliterated-GGUF,用 Heretic v2 的 Arbitrary-Rank Ablation 对 XHToken/Spark-X2.6-4B 去审查,拒绝率从 100/100 降到 2/100,KL 散度 0.0177。提供 BF16 加 14 种量化共 44.53 GB,4-bit 权重约 2.4-2.6 GB,保留 1M token 上下文、可控思考与工具调用,需支持 spark2_5 架构的 llama.cpp 构建;作者提醒去对齐只移除拒绝方向,不增加能力,部署时需自行负责安全过滤。

  2. Hugging Face · 新模型:abliterated精选
    FrostWolfAI 发布 Spark-X2.6-4B-abliterated 去对齐版本

    FrostWolfAI 在 Hugging Face 发布 XHToken/Spark-X2.6-4B 的去对齐版本,用 Heretic v2.0.0.dev0 的 ARA 低秩权重编辑抑制拒绝行为,不做微调。拒绝数从 100/100 降到 2/100,KL 散度 0.0177,架构与 1,048,576 token 上下文不变,BF16 权重约 8.22 GB,Apache-2.0 许可,reproduce/ 目录含完整复现配方,GGUF 量化即将推出。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。