Qwen3.8-27B 去审查微调模型发布 GGUF 与 MLX 多个版本
先了解这件事
Humberto16(DavidAU 团队)在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的去审查微调模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF,提供常规与 MTP 两类 NEO imatrix GGUF 量化。其称模型用 Heretic v1.2.0+ 的 ARA 方法去审查,Stage 1 去对齐后拒绝率从 99/100 降至 0/100(KL 散度 0.0535),Stage 2 平衡后为 11/100、KL 0.0025;其给出的基准显示 8bit ARC-C 0.735、ARC-E 0.882、4bit ARC-C 0.719,均高于原版(8bit ARC-C 0.591),建议最低 q4km、推荐 Q6。思考 token 减至原版约 1/2 至 1/10,支持 xhigh/medium/low 三档推理;Q4_K_S 下常规版约 75 t/s、MTP 版超 90 t/s(5090、LMStudio 实测)。视觉功能需另行下载 mmproj 文件放入同目录。该 GGUF 版先后由 TopherAU、TTPPCC121 等协作方、sky3c、yushen100、fribourgquants 转发或重发布。 该模型随后出现两个 MLX 版本,均面向 Apple Silicon 推理、采用与原模型相同的 Apache-2.0 许可证:Ecmcfee 发布的 float16 转换版由 Q8_0 GGUF(30.24 GB)转换而来,约 55 GB 分 12 个分片,转换方称与原 GGUF 权重质量一致、无精度损失;xohaohe(华哥)发布混合精度量化版 fp16-oQ4e-mtp,用 oMLX 0.7.1 处理,默认 4-bit affine(group size 64),保留视觉编码器与 1 层 MTP,上下文 262,144 tokens,共 17.94 GB。xohaohe 版本自身实测成绩待补充,上游成绩不作为本版本实测表现。
AI 根据报道生成 · 16 小时前更新
事件进展
4 个进展
- 10月22日 16:41 · 3 篇报道发布 Qwen3.8-27B 去对齐微调 GGUF 模型Hugging Face · 新模型:uncensored:fribourgquants 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版
- 10月12日 08:11 · 1 篇报道xohaohe 发布 27B MLX 混合精度量化模型Hugging Face · 新模型:uncensored:xohaohe 发布 Qwen3.8-27B-TURBO-Fable5.5-Cold-Fusion-L-Uncensored MLX 量化模型
- 10月11日 09:46 · 1 篇报道发布 Qwen3.8-27B 无审查模型的 MLX 转换版Hugging Face · 新模型:uncensored:Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP 推出 MLX 版本
- 10月5日 21:01 · 6 篇报道发布 Qwen3.8-27B TURBO 去审查微调 GGUF 量化版Hugging Face · 新模型:uncensored:TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:uncensoredQwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 发布 GGUF 与源码
Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored(release #1)已在 Hugging Face 开源并发布 GGUF。该 27B 微调版 ARC-C 比 Qwen3.8 27B 高 141 分,4 bit 性能约为 8 bit 的 99%,推理 token 减至原来的 1/2 到 1/10。后续 TWIN-TURBO 版及 Ultra Heretic 版计划于 2026 年 9 月 10 日前后发布。
- Hugging Face · 新模型:uncensoredQwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 发布 GGUF 与源码
Aayushbhandari12 在 Hugging Face 发布 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored(release #1),GGUF 与源码均已开放。该模型称核心指标较 Qwen 3.8 27B 提升,ARC-C 高出 141 分,4 bit 性能约为 8 bit 的 99%,思考 token 降至原来的 1/2 到 1/10。后续 Qwen3.8-27B-TWIN-TURBO 版本计划约 2026 年 9 月 10 日发布。
- Hugging Face · 新模型:uncensored精选Qwen3.8-27B TURBO 微调版发布 GGUF 权重,ARC-C 达 735 并大幅削减思考 token
DavidAU 团队发布基于 Qwen3.8-27B 的多阶段微调模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供常规与 MTP 两种 NEO imatrix GGUF 量化。8bit 下 ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 591);思考 token 缩减至原版的 1/2 到 1/10。去审查用 Heretic v1.2.0+ 的 ARA 方法,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。
- Hugging Face · 新模型:uncensored精选fribourgquants 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版
fribourgquants 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,主打去对齐与思考 token 缩减。用 Heretic v1.2.0+custom 的 ARA 方法消融后,Stage 1 拒绝数从原版 99/100 降到 0/100,Stage 2 平衡后为 11/100、KL 散度 0.0025;8bit ARC-C 达 0.735、ARC-E 0.882,4bit ARC-C 0.719,均高于原版 Qwen3.8-27B。思考块缩减至原版约 1/2 到 1/10,支持 xhigh/medium/low 三档推理模式;MTP 量化在 Q4_K_S 上约 90 t/s,普通量化约 75 t/s(5090、LMStudio 实测)。
- Hugging Face · 新模型:uncensored精选Qwen3.8-27B TURBO Heretic 无对齐微调版发布 GGUF 权重,ARC-C 达 735
yushen100 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 量化版,主打去对齐与思考 token 缩减(约 1/2 至 1/10),8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。去对齐用 Heretic v1.2.0+ 的 ARA 方法,Stage 1 拒绝数从 99/100 降到 0/100(KL 散度 0.0535),Stage 2 后为 11/100、KL 0.0025。
- Hugging Face · 新模型:uncensored精选sky3c 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版,ARC-C 达 735
sky3c 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,用 Heretic v1.2.0 的 ARA 方法去审查,8 bit 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。模型将思考 token 减至原版的 1/2 到 1/10,8 bit ARC-C 735、ARC-E 882,4 bit ARC-C 719,作者称在全部 7 项基准上超过原版 Qwen3.8-27B。提供常规与 MTP 两种 GGUF 量化,Q4_K_S 下常规版约 75 t/s、MTP 版可超 90 t/s(5090 实测),支持 256k 上下文与视觉(需另下 mmproj 文件),工具调用建议 Q4_K_M 以上量化。
- Hugging Face · 新模型:uncensored精选Qwen3.8-27B TURBO 微调版发布 GGUF 权重,ARC-C 达 735 并大幅压缩思考 token
TTPPCC121 等多人协作发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。模型用 Heretic v1.2.0+ARA 方法去对齐,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。提供常规与 MTP 两种 GGUF,Q4_K_S 下常规约 75 t/s、MTP 可超 90 t/s(5090、LMStudio 实测),支持 256k 上下文与视觉(需另下 mmproj 文件)。
- Hugging Face · 新模型:uncensoredxohaohe 发布 Qwen3.8-27B-TURBO-Fable5.5-Cold-Fusion-L-Uncensored MLX 量化模型
xohaohe(华哥)发布 27B 级 MLX 多模态混合精度量化模型 Qwen3.8-27B-TURBO-Fable5.5-Cold-Fusion-L-Uncensored-fp16-oQ4e-mtp,使用 oMLX 0.7.1 处理,开放下载。模型基于稠密 Qwen 架构,默认 4-bit affine(group size 64),保留视觉编码器与 1 层 MTP,上下文配置 262,144 tokens,4 个 Safetensors 分片共 17.94 GB。本量化版本测试成绩待补充,上游成绩不代表其实测表现。
- Hugging Face · 新模型:uncensoredQwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP 推出 MLX 版本
DavidAU 的 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP 模型现提供 MLX 优化版本,用于 Apple Silicon 推理。该版本由 Q8_0 GGUF(30.24 GB)转换而来,866 个张量全部反量化为 float16(约 55 GB,12 个分片),质量与原 GGUF 权重一致、无精度损失。架构为 Qwen3.5 dense(65 层、5120 hidden、24 heads、248320 vocab),采用 Apache-2.0 许可证。
- Hugging Face · 新模型:uncensored精选TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735
TopherAU 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的去审查微调版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF,提供常规与 MTP 两种 NEO imatrix GGUF 量化。
- Hugging Face · 新模型:uncensored精选Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored GGUF 量化发布
Humberto16 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 量化版,8bit ARC-C 达 0.735、ARC-E 0.882,4bit ARC-C 0.719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 610月31日 12:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。