DavidAU 发布 Qwen3.8-27B 去对齐微调 GGUF 模型
先了解这件事
DavidAU 在 Hugging Face 基于 Qwen/Qwen3.8-27B 发布去对齐微调版 GGUF 模型,采用 Heretic v1.2.0 的 ARA(任意秩消融)方法。据其称,Stage 1 调优后拒绝率从 99/100 降至 0/100,KL 散度 0.0535;模型自称 8bit 下 ARC-C 735、ARC-E 882,较原版高 144 分,思考 token 减至原来的 1/2 到 1/10。 仓库提供含 NEO imatrix 的常规与 MTP 两种量化,作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s。启用视觉需另行下载 mmproj 文件并放入同一目录;工具调用建议 q4km 以上量化,q5ks/5km 更佳,推荐 Q6。
AI 根据报道生成 · 12 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:uncensored精选Qwen3.8-27B 去对齐微调版发布 GGUF 量化,ARC-C 达 735 并大幅压缩思考 token
Sameer3336s 发布基于 Qwen/Qwen3.8-27B 的去对齐微调版 GGUF 量化仓库,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B。模型用 Heretic v1.2.0+ ARA 方法去审查,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。仓库含常规与 MTP 两种 NEO imatrix 量化,作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s,支持 256k 上下文与视觉(需另下 mmproj 文件)。
- Hugging Face · 新模型:uncensored精选DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF
DavidAU 团队基于 Qwen/Qwen3.8-27B 发布多阶段微调去对齐版本,用 Heretic v1.2.0 ARA 方法消融后拒绝率从 99/100 降至 0/100,并经两阶段调优。模型自称在 8bit 达 ARC-C 735、ARC-E 882,较原版 Qwen3.8 27B 高 144 分,思考 token 减至原来的 1/2 到 1/10;仓库提供含 NEO imatrix 的常规与 MTP 两种 GGUF 量化(MTP 在 5090 上 Q4_K_S 约 90 t/s),需另行下载 mmproj 文件启用视觉,建议 q4km 以上量化以保障工具调用。