跳到正文
Hugging Face · 新模型:abliterated·· 20 天前精选AI 评分60

Methane 发布 Qwen3.8-Flash-Next 去对齐版 GSQ-RCO 量化 GGUF 模型

Methane/Qwen3.8-Flash-Next-Abliterated-GSQ-RCO-IQ3_XXS-Calibrated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Methane/Qwen3.8-Flash-Next-Abliterated-GSQ-RCO-IQ3_XXS-Calibrated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Methane 在 Hugging Face 发布 Qwen3.8-Flash-Next 的去对齐版 GSQ-RCO 量化 GGUF 模型,保留 1,078 个 ISTA 张量,并对来自 windowsxp811203 去对齐检查点的 146 个 BF16 张量重新量化。实测生成速度约 31 tok/s,比未改动的 ISTA IQ3_XXS 快约 31%,下载体积大 9.6%;MMLU 82.68%、GSM8K 86.72%、strict IFEval 85.16%、raw HumanEval 66.46%,除编码外三任务平均变化 −0.66 个百分点,等质量尚未证实。

推荐理由

作者给出了与原 ISTA 量化的速度和四项基准对比数据,读者可据此评估这个去对齐量化版本的实际代价。

来源:Hugging Face · 新模型:abliterated · huggingface.co