跳到正文
热点事件历史事件

Qwen3.8-Flash-Next-Uncensored 模型及 EXL3 量化包发布

2 篇报道1 个报道来源13 天前更新

先了解这件事

AI 综述

undefined1behavior 在 Hugging Face 发布 Qwen/Qwen3.8-Flash-Next 的 abliterated(去除拒绝方向)BF16 全精度版本及 Exllamav3 量化。该模型为约 180B MoE(125B 参数/约 6B 激活)的视觉语言模型,按 Arditi et al. (2024) 方法在第 24 层估计单一拒绝方向并从 149 个残差写入张量中移除,完整保留视觉/视频塔和 MTP head。 随后 doth4580 发布该模型的 EXL3 4bpw 量化包(由 Lygodactylus 用 exllamav3 量化),主要面向 veloGB10 推理引擎,供在 1、2 或 4 台 NVIDIA DGX Spark / GB10 机器上运行,页面附 TP=1/2/4 的 VeloBench 实测数据及不同 MTP draft head 对比,并称使用自有硬件提供服务成本为 0 美元。 两个发布方均注明使用须遵守继承自基座模型的 Apache 2.0 许可证及适用法律法规;undefined1behavior 称该模型仅供可解释性、AI 安全、红队测试等合法研究用途,不应在未添加自有安全与审核层的情况下部署给终端用户或用于生产环境。

AI 根据报道生成 · 7 天前更新

事件进展

2 个进展

  1. 11月10日 01:10 · 1 篇报道
    发布Qwen3.8-Flash-Next-Uncensored的EXL3 4bpw量化包
    Hugging Face · 新模型:uncensored:Qwen3.8-Flash-Next-Uncensored EXL3 4bpw 量化包发布
  2. 11月9日 21:39 · 1 篇报道
    发布 Qwen3.8-Flash-Next 的 abliterated 去对齐版本
    Hugging Face · 新模型:uncensored:undefined1behavior 发布 Qwen3.8-Flash-Next-Uncensored BF16 消融版及 EXL3 量化

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. Hugging Face · 新模型:uncensored精选
    Qwen3.8-Flash-Next-Uncensored EXL3 4bpw 量化包发布

    doth4580 在 Hugging Face 发布 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 EXL3 4bpw 量化包(Lygodactylus 用 exllamav3 量化),主要面向 veloGB10 推理引擎在 1、2 或 4 台 NVIDIA DGX Spark / GB10 机器上运行,并附 TP=1/2/4 的 VeloBench 实测数据与不同 MTP draft head 的对比。

11月9日
  1. Hugging Face · 新模型:uncensored精选
    undefined1behavior 发布 Qwen3.8-Flash-Next-Uncensored BF16 消融版及 EXL3 量化

    undefined1behavior 在 Hugging Face 发布 Qwen/Qwen3.8-Flash-Next 的 abliterated(去除拒绝方向)BF16 全精度版本,并提供对应的 Exllamav3 量化(2.05bpw_h4_ng4,含可用的 MTP head)。模型为约180B MoE(125B 参数 / 约6B 激活),按 Arditi et al. (2024) 方法在第 24 层估计单一拒绝方向并从 149 个残差写入张量中正交化移除,完整保留视觉/视频塔(333 个 visual.* 张量)和 MTP head。