sanasol2008 发布 Qwen3.8-Flash-Next-Abliterated Sushi 3bpw 量化包
先了解这件事
sanasol2008 在 Hugging Face 发布 Qwen3.8-Flash-Next-Abliterated 的 Sushi 格式 3bpw 实验性量化包,直接基于 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 BF16 权重制作,路由专家采用 EXL3 K3 编码,未额外做 abliteration 或微调。 该包完整下载约 79.22 GiB,在 Apple M3 Max 48 GiB 上冷解码 11.88 tok/s、热解码 12.88 tok/s,慢于 2bpw 版本;相对 2bpw 的校准误差更低(相对 Frobenius 误差 0.029 对 0.064),支持 262144 上下文配置上限。发布方说明这是 Sushi 专用格式,不是通用 ExLlamaV3 或 Transformers 检查点,未声称无损或与 BF16 等效的质量,拒绝行为也未独立验证。
AI 根据报道生成 · 2 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:abliteratedQwen3.8-Flash-Next-Abliterated Sushi 3bpw 实验性量化版本发布
sanasol2008 基于 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 BF16 权重制作了 Sushi 格式 3bpw 实验性量化包,路由专家采用 EXL3 K3 编码,未额外做 abliteration 或微调。完整下载约 79.22 GiB,在 Apple M3 Max 48 GiB 上冷解码 11.88 tok/s、热解码 12.88 tok/s,慢于 2bpw 版本;校准误差相对 2bpw(相对 Frobenius 误差 0.029 对 0.064)更低,支持 262144 上下文配置上限。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1010月26日 00:00
- 近 24 小时变化
- -49%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。