跳到正文
我的
热点事件持续更新

puzhen 发布 GSQ-RCO 消融版 GGUF 量化库

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

puzhen 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过在不重算的 GSQ 量化文件内直接替换 144 个残差流写入投影张量(覆盖全部 48 层)实现去对齐,无需重新量化。 模型提供 IQ3_S、IQ3_XXS、IQ2_XS、Q2_0 四个量化档位,均经逐 tensor blake2b 校验,非目标张量 1079 个字节不变,体积仅比上游大 0.25 至 0.44 GB;作者称 Strata 引擎实测 decode 104.4 tok/s 与上游持平。 该模型无内置安全护栏,可能响应有害请求,发布方要求仅在可自备审核、访问控制与法律审查的环境部署,不能在无安全层的情况下直接面向终端用户。模型继承基座 Apache-2.0 许可,需同时遵守上游各仓库的许可与模型卡。Strata 部署需重建 native pack。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. Hugging Face · 新模型:abliterated
    Qwen3.8-Flash-Next GSQ-RCO 量化版完成去对齐张量移植

    puzhen 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过在不重算的 GSQ 量化 GGUF 内直接替换 144 个残差流写入投影张量实现去对齐,覆盖全部 48 层。四个量化档位 IQ3_S、IQ3_XXS、IQ2_XS、Q2_0 均经逐 tensor blake2b 校验,非目标张量 1079 个字节不变,体积仅比上游大 0.25 至 0.44 GB,Strata 引擎实测 decode 104.4 tok/s 与上游持平。模型无内置安全护栏,需自备审核与访问控制,Strata 部署需重建 native pack。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。