Reddit · r/LocalLLaMA· /u/Loginhe·· 2 天前同新闻AI 评分69
ISTA 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF，最低 1.75 bpw
[Release] ISTA GSQ-RCO GGUFs for DeepSeek-V4.1-Flash-1017
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Loginhe
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xe2wg8/release_ista_gsqrco_ggufs_for_deepseekv41flash1017/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
ISTA 深度算法与系统实验室用 GSQ 与 RCO 方法发布了 DeepSeek-V4.1-Flash-1017 的三个量化 GGUF，位宽 1.75 至 2.25 bpw，骨干 120.7 至 155.2 GB。其中 IQ2_XXS（2.00 bpw）在 AIME25、GPQA-Diamond、LiveCodeBench v6 上与基座完全一致，任务平均保留 100.0%；IQ1_M 保留 98.7%。该模型为稀疏 MoE，763.2B 参数、每层 384 个路由专家激活 6 个、1M token 上下文窗口。所有版本可经 Strata 在单张 12 GB VRAM 的 NVIDIA GPU 上运行，llama.cpp 暂不支持。
同一新闻，精选展示《ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 非均匀量化 GGUF》
来源：Reddit · r/LocalLLaMA · reddit.com