跳到正文
Hugging Face · 趋势模型·· 2026-09-26精选AI 评分81

ISTA-DASLab 发布 Qwen3.8-Flash-Next GSQ-RCO Coder 压缩版 GGUF 权重

ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF

来源与原文

Hugging Face · 趋势模型

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

ISTA-DASLab 发布 Qwen3.8-Flash-Next 的 GSQ-RCO Coder 压缩版 GGUF 权重,通过移除一半路由专家并将剩余权重存为 3.5 bpw,使 176.9B 参数模型的常驻显存从 354 GB 降至 29.6 GB,可装入单张 32 GB 加速卡。

推荐理由

原文给出压缩方法细节与 SWE-bench、LiveCodeBench 前后对比,读者可据此评估专家剪枝加量化的实际代价。

来源:Hugging Face · 趋势模型 · huggingface.co