ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 量化 GGUF，社区质疑与实测并存

1. 19:51
   Reddit · r/LocalLLaMA

   社区实测 ISTA-DASLab DeepSeek-V4.1-Flash-1017 2.25bpw 量化版对比官方 API

   一位用户用 Humanities Last Exam 的 100 题文本子集，测试 ISTA-DASLab 的 DeepSeek-V4.1-Flash-1017 2.25bpw 量化版与官方 API 的差距，本地平均速度 40.4 toks/s，单题 token 上限 32768。结果本地与 API 均为 13 个严格正确、语义正确分别为 20 和 21。作者认为该量化版未被明显削弱，但测试仅为 smoke test，需更多运行才能得出可靠结论。

1. 11:48
   Reddit · r/LocalLLaMA

   ISTA 的 GSQ-RCO 2-bit DeepSeek-V4.1-Flash 分数与原模型持平，是真好还是虚高？

   Reddit r/LocalLLaMA 用户质疑 ISTA 的 GSQ-RCO 2-bit（IQ2_XXS）量化版 DeepSeek-V4.1-Flash 在基准测试中与原模型得分持平的说法。其评测基准已饱和（90%+，AIME25 各版本均达 100），可能无法反映量化损失，且未公布 KLD 数据，用户求助实测 KLD 或 PPL。

1. 16:05
   Reddit · r/LocalLLaMA精选

   ISTA 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF，最低 1.75 bpw

   ISTA 深度算法与系统实验室用 GSQ 与 RCO 方法发布了 DeepSeek-V4.1-Flash-1017 的三个量化 GGUF，位宽 1.75 至 2.25 bpw，骨干 120.7 至 155.2 GB。其中 IQ2_XXS（2.00 bpw）在 AIME25、GPQA-Diamond、LiveCodeBench v6 上与基座完全一致，任务平均保留 100.0%；IQ1_M 保留 98.7%。该模型为稀疏 MoE，763.2B 参数、每层 384 个路由专家激活 6 个、1M token 上下文窗口。所有版本可经 Strata 在单张 12 GB VRAM 的 NVIDIA GPU 上运行，llama.cpp 暂不支持。

2. 07:37
   Reddit · r/LocalLLaMA

   ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化版本

   ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 智能量化版本，量化文件已上架 HuggingFace。目前 llama.cpp 尚不支持该模型，因其原始架构支持代码还未合并；模型卡提及 Strata 支持，但发帖者认为原版 Strata 只支持 Qwen3.8-Flash-Next，实际可能指 Xolotl 或 Maya 等 Strata 衍生分支。

1. 17:43
   Hugging Face · 趋势模型精选

   ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 非均匀量化 GGUF

   ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，用 GSQ 加 RCO 的梯度搜索按张量敏感度分配量化类型，提供 IQ1_M、IQ2_XXS、IQ2_XS 三档。IQ2_XXS（2.00 bpw）在 AIME25、GPQA-Diamond、LiveCodeBench v6 上完全追平 FP8/FP4 基模型，任务均值恢复 100.0%；IQ1_M 保留 98.7%。配合 Strata 引擎可在单张 12 GB VRAM 的 GPU 上运行；llama.cpp 截至 2026 年 10 月 23 日尚不支持该模型。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。