跳到正文
更多
热点事件历史事件

DavidAU 发布 Qwen3.8-27B 去对齐微调 GGUF 模型

2 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

DavidAU 在 Hugging Face 基于 Qwen/Qwen3.8-27B 发布去对齐微调版 GGUF 模型,采用 Heretic v1.2.0 的 ARA(任意秩消融)方法。据其称,Stage 1 调优后拒绝率从 99/100 降至 0/100,KL 散度 0.0535;模型自称 8bit 下 ARC-C 735、ARC-E 882,较原版高 144 分,思考 token 减至原来的 1/2 到 1/10。 仓库提供含 NEO imatrix 的常规与 MTP 两种量化,作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s。启用视觉需另行下载 mmproj 文件并放入同一目录;工具调用建议 q4km 以上量化,q5ks/5km 更佳,推荐 Q6。

AI 根据报道生成 · 12 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. Hugging Face · 新模型:uncensored精选
    Qwen3.8-27B 去对齐微调版发布 GGUF 量化,ARC-C 达 735 并大幅压缩思考 token

    Sameer3336s 发布基于 Qwen/Qwen3.8-27B 的去对齐微调版 GGUF 量化仓库,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B。模型用 Heretic v1.2.0+ ARA 方法去审查,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。仓库含常规与 MTP 两种 NEO imatrix 量化,作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s,支持 256k 上下文与视觉(需另下 mmproj 文件)。

10月13日
  1. Hugging Face · 新模型:uncensored精选
    DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF

    DavidAU 团队基于 Qwen/Qwen3.8-27B 发布多阶段微调去对齐版本,用 Heretic v1.2.0 ARA 方法消融后拒绝率从 99/100 降至 0/100,并经两阶段调优。模型自称在 8bit 达 ARC-C 735、ARC-E 882,较原版 Qwen3.8 27B 高 144 分,思考 token 减至原来的 1/2 到 1/10;仓库提供含 NEO imatrix 的常规与 MTP 两种 GGUF 量化(MTP 在 5090 上 Q4_K_S 约 90 t/s),需另行下载 mmproj 文件启用视觉,建议 q4km 以上量化以保障工具调用。

关联事件