跳到正文
热点事件观察中

sanasol2008 发布 Qwen3.8-Flash-Next-Abliterated Sushi 3bpw 量化包

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

sanasol2008 在 Hugging Face 发布 Qwen3.8-Flash-Next-Abliterated 的 Sushi 格式 3bpw 实验性量化包,直接基于 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 BF16 权重制作,路由专家采用 EXL3 K3 编码,未额外做 abliteration 或微调。 该包完整下载约 79.22 GiB,在 Apple M3 Max 48 GiB 上冷解码 11.88 tok/s、热解码 12.88 tok/s,慢于 2bpw 版本;相对 2bpw 的校准误差更低(相对 Frobenius 误差 0.029 对 0.064),支持 262144 上下文配置上限。发布方说明这是 Sushi 专用格式,不是通用 ExLlamaV3 或 Transformers 检查点,未声称无损或与 BF16 等效的质量,拒绝行为也未独立验证。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. Hugging Face · 新模型:abliterated
    Qwen3.8-Flash-Next-Abliterated Sushi 3bpw 实验性量化版本发布

    sanasol2008 基于 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 BF16 权重制作了 Sushi 格式 3bpw 实验性量化包,路由专家采用 EXL3 K3 编码,未额外做 abliteration 或微调。完整下载约 79.22 GiB,在 Apple M3 Max 48 GiB 上冷解码 11.88 tok/s、热解码 12.88 tok/s,慢于 2bpw 版本;校准误差相对 2bpw(相对 Frobenius 误差 0.029 对 0.064)更低,支持 262144 上下文配置上限。

本事件热度走势

可比范围当前
3
可比范围峰值
1010月26日 00:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。