跳到正文
更多
热点事件历史事件

Shellar 发布 Qwen3.8-27B 去对齐微调版,称拒绝率大幅下降

3 篇报道1 个报道来源18 天前更新

先了解这件事

AI 综述

Shellar 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的去对齐微调版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供 regular 与 MTP 两种 GGUF 量化。该模型采用 Heretic v1.2.0 加自定义的 Arbitrary-Rank Ablation(ARA)方法制作,目前尚无独立验证。 作者称去审查第一阶段后拒绝率从 99/100 降至 0/100,第二阶段后为 11/100;8bit 下 ARC-C 达 0.735、ARC-E 达 0.882,高于原版(8bit ARC-C 0.591、ARC-E 0.782),4bit 为 719;思考 token 减至原版的 1/2 到 1/10;4bit Q4_K_S 下约 75 t/s,MTP 可超 90 t/s(5090 实测)。另给出使用建议:工具调用建议至少 q4km 量化、推荐 Q6;图像理解需额外下载一个 mmproj 文件放在 GGUF 同目录。以上成绩与建议均为作者说法。

AI 根据报道生成 · 18 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. Hugging Face · 新模型:uncensored
    Qwen3.8-27B 去对齐微调版发布:ARC-C 达 735,思考 token 减至 1/2 到 1/10

    robertbschuette 在 Hugging Face 发布 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 的 GGUF 量化包。作者称该多阶段微调模型 8 bit 下 ARC-C 达 0.735、ARC-E 达 0.882(原版 Qwen3.8-27B 为 0.591/0.782),思考 token 减至原版的 1/2 至 1/10。

10月8日
  1. Hugging Face · 新模型:uncensored
    Qwen3.8-27B TURBO 微调版发布:Heretic 去审查并压缩思考 token

    作者发布基于 Qwen3.8-27B 的多阶段微调 GGUF 模型,称 8bit ARC-C 达 0.735、ARC-E 达 0.882,并宣称将思考 token 压缩至原版的 1/2 到 1/10。去审查采用 Heretic v1.2.0+ 的 Arbitrary-Rank Ablation 方法,阶段1拒绝率从 99/100 降至 0/100(KL 0.0535),阶段2后为 11/100(KL 0.0025);提供常规与 MTP 两类量化,4bit Q4_K_S 下约 75 t/s,MTP 可超 90 t/s(5090 实测)。

10月7日
  1. Hugging Face · 新模型:uncensored
    Qwen3.8-27B 无审查微调版发布,ARC-C 达 735 并大幅压缩思考 token

    Shellar 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的无审查微调版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供 regular 与 MTP 两种 GGUF 量化。作者称 8bit 下 ARC-C 达 735、ARC-E 达 882,4bit 为 719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591),思考 token 减至原版的 1/2 到 1/10。

关联事件