huihui-ai 发布 Qwen3.8-27B 去对齐 INT3 量化 overlay
热点事件持续更新
huihui-ai 发布 Qwen3.8-27B 去对齐 INT3 量化 overlay
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
huihui-ai 的 Qwen3.8-27B abliterated（去对齐）检查点推出 Paiton W3Rot INT3（W3A4）3-bit overlay，用 GPTQ 校准（block-diagonal Hessian、65,536 tokens），含 64 个分片、1,296 个张量，需挂载在 unsloth/Qwen3.8-27B-NVFP4 基座上运行。采用 Apache-2.0 许可，仅供研究和个人使用。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- Hugging Face · 新模型：abliteratedhuihui-ai Qwen3.8-27B abliterated 模型发布 Paiton W3Rot INT3 3-bit overlay
huihui-ai 的 Qwen3.8-27B abliterated 检查点推出 Paiton W3Rot INT3（W3A4）3-bit overlay，用 GPTQ 校准（block-diagonal Hessian、65,536 tokens），含 64 个分片、1,296 个张量，需挂载在 unsloth/Qwen3.8-27B-NVFP4 基座上运行。在 Radeon AI PRO R9700（32 GB）上，MMLU-Pro 57.86%、GSM8K 93.10%、HumanEval 90.24%，单流解码 155.0 tok/s，略低于官方 W3A4 的 174.3 tok/s。采用 Apache-2.0 许可，仅供研究和个人使用。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。