puzhen 发布 GSQ-RCO 消融版 GGUF 量化库
先了解这件事
puzhen 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过在不重算的 GSQ 量化文件内直接替换 144 个残差流写入投影张量(覆盖全部 48 层)实现去对齐,无需重新量化。 模型提供 IQ3_S、IQ3_XXS、IQ2_XS、Q2_0 四个量化档位,均经逐 tensor blake2b 校验,非目标张量 1079 个字节不变,体积仅比上游大 0.25 至 0.44 GB;作者称 Strata 引擎实测 decode 104.4 tok/s 与上游持平。 该模型无内置安全护栏,可能响应有害请求,发布方要求仅在可自备审核、访问控制与法律审查的环境部署,不能在无安全层的情况下直接面向终端用户。模型继承基座 Apache-2.0 许可,需同时遵守上游各仓库的许可与模型卡。Strata 部署需重建 native pack。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:abliteratedQwen3.8-Flash-Next GSQ-RCO 量化版完成去对齐张量移植
puzhen 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过在不重算的 GSQ 量化 GGUF 内直接替换 144 个残差流写入投影张量实现去对齐,覆盖全部 48 层。四个量化档位 IQ3_S、IQ3_XXS、IQ2_XS、Q2_0 均经逐 tensor blake2b 校验,非目标张量 1079 个字节不变,体积仅比上游大 0.25 至 0.44 GB,Strata 引擎实测 decode 104.4 tok/s 与上游持平。模型无内置安全护栏,需自备审核与访问控制,Strata 部署需重建 native pack。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。