Hugging Face · 新模型:abliterated·· 13 天前精选AI 评分53
Qwen3.8-Flash-Next 的 Starlight 运行时 abliterated 量化文件发布,54.68 GiB 附拒绝率实测
feverdoingwork/Qwen3.8-Flash-Next-iq3_xxs_turbo-abliterated-Starlight
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/feverdoingwork/Qwen3.8-Flash-Next-iq3_xxs_turbo-abliterated-Starlight
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
feverdoingwork 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 iq3_xxs_turbo abliterated 版本,专供 Starlight 推理引擎使用,文件 54.68 GiB,权重与普通版逐字节一致,仅增加一个 10 KB 的 starlight.ablate_r 张量,由引擎在运行时从 144 个写入残差流的矩阵输出中移除拒绝方向。Starlight 项目在 RX 9070 XT 上实测,拒绝测试从普通版的 8/20 降到 0/20 通过(20/20 全回答),218 代能力评分 178 与普通版持平,解码速度 120.1 对 122.0 tokens/s。
推荐理由
用同一个 10 KB 张量在推理时移除拒绝方向,并给出拒绝率与 218 代生成能力的对照数据,量化取舍写得明白。
来源:Hugging Face · 新模型:abliterated · huggingface.co