跳到正文
10月18日周日
  1. Hugging Face · 新模型:abliterated54

    drowzeys 发布 DeepSeek-V4.1-Flash-1017 的 Abliterated 权重 overlay

    drowzeys 在 Hugging Face 发布 keys-DeepSeek-V4.1-Flash-1017-Abliterated,这是针对 deepseek-ai/DeepSeek-V4.1-Flash-1017 的 keys overlay 而非完整 checkpoint。消融范围为 L10–35 的 attn.wo_b(λ=3.5,k=1,mean Δrel ≈ 0.053),L0–9、L36–39、MTP、vision、Engram、experts 等锚点保持不动;Refusal32 32/32 BYPASS、0 拒绝、0 乱码,Cyber 22/22 BYPASS。

    推荐理由:原文给出了消融层范围、λ参数和 Refusal32 拒绝率前后对比,读者可据此判断这个去对齐 overlay 的实际改动幅度。

  2. GitHub · prompt 工程新仓库50

    sandbase-lab 开源 awesome-deepseek-v4.1-flash 提示词与示例合集

    SandBase Lab 发布 awesome-deepseek-v4.1-flash 仓库,收录 DeepSeek-V4.1-Flash-1017(2026年10月17日更新)生成的 Three.js、WebGL 3D 场景、动效和浏览器游戏,共 88 条视频、来自 70 位创作者,其中 14 条附创建者提示词,每日同步。仓库提供 7 种提示词模式与填空模板、从提示词到 HTML 再到 MP4 的教程,以及 OpenAI 兼容 API 调用脚本;模型在 SandBase 上 id 为 deepseek/deepseek-v4.1-flash,1M token 上下文、最高 384K 输出,价格 $0.30/M 输入与 $1.20/M 输出,推理 token 计入输出计费。

  3. Hugging Face · 新模型:uncensored64

    dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包

    dealignai 基于 LibertAI 的 EXL3 2.9bpw 量化包(388 GB)发布 DeepSeek-V4.1-Flash-1017 无对齐版本,移除拒绝行为,支持 6 种语言、131K 上下文、thinking 开关与 vision/MTP/Engram 权重保留。实测 MMLU-500 从 67.40% 降至 63.20%(−4.20pp),HarmBench-320 chat 模式 320 项全部 COMPLY;在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 实测约 68 tok/s 解码、1105 tok/s 预填充。

    推荐理由:发布方给出了 MMLU 前后对比和 HarmBench 拒绝率数据,可以量化评估去对齐带来的能力损失。

  4. Reddit · r/LocalLLaMA31

    新一代本地编程 LLM 表现相当不错,远超过去的大参数模型

    一位 Reddit r/LocalLLaMA 用户自建测试:让模型学习一种新图形语言的语法并生成可被程序解析的图形。Qwen 3.8 与 Ornith-1.5 表现最佳,两者仅 27B,却在语法理解和想象力上击败了 DeepSeek 4 flash、Qwen 3.5 122b、GLM 4.7 等更大的本地模型,想象力甚至超过 Haiku 5.5;GLM 4.7 已生成 66k token 思考仍未完成。

  5. GitHub · 灵魂体仓库61

    DeepSeek Harness 零模型调用压缩后端 dsh-compaction-local-handoff 开源

    xingzoudefengye 在 GitHub 发布 dsh-compaction-local-handoff,为 DeepSeek Harness(DSH)提供零模型调用的压缩后端,在上下文达到阈值时用本地确定性、有界的交接文档替代额外一次 LLM 摘要调用。触发阈值、逐字尾部保留、工具结果剪枝与 /compact 等行为继承自 dsh-compaction-basic;交接文本硬上限 6,000 字符并 redact 凭据,验证显示 compaction/summary 记录为 provider=local、model=local-handoff 且 11 毫秒完成,27 项测试全部通过。

    推荐理由:它把压缩摘要从一次模型调用换成有界的本地拼装交接,并给出日志级验证和已知取舍,方法对上下文管理有可参考性。

  6. GitHub · prompt 工程新仓库64

    SandBase Lab 整理 DeepSeek V4.1 Flash 1017 提示词与示例合集

    SandBase Lab 在 GitHub 发布 awesome-deepseek-v4.1-flash-1017 仓库,收录用 DeepSeek-V4.1-Flash-1017 生成的88个视频,来自70位创作者,涵盖 Three.js/WebGL 3D 场景、动画、游戏等,其中14个附创作者原提示词,每日同步。仓库还提供含7种模式和填空模板的提示词指南、prompt 到 HTML 再到 MP4 的教程,以及与 Claude Opus 5.5、GPT-6、Gemini 4 Argon 的对比测试。

    推荐理由:合集把88个示例按类别整理并标注哪些附原提示词,还给出7种提示词模式和补全模板,方便直接复用。

  7. Reddit · r/LocalLLaMA59

    DeepSeek v4.1 Flash 1017 量化版发布,M5 Max 上解码可达 20tps

    Reddit 用户 /u/returnity 为 DeepSeek v4.1 Flash 1017(ds4)制作并发布了量化版本,需其 PR 才能加载新的 vision tower。量化沿用 antirez 原版 DS4.1 Q2 配方:2-bit 路由专家加 8-bit 及以上精度处理其余部分,imatrix 基于 1017 构建,并保留原版 FP8 engram 表。模型 wired backbone 超过 150GB,可在 128GB 内存系统上从 SSD 流式加载,M5 Max 上解码速度最高 20tps;约 200GB 的 engram 表按需从 SSD 分页调入。该版本中约 40% 路由专家张量、30% engram 和约 50% vision tower 专家张量有改动。

    推荐理由:作者给出了量化配方、模型体积与 M5 Max 上的解码速度等实测细节,本地部署用户可参考其 SSD 流式加载方案。

  8. Hugging Face · 新模型:uncensored50

    dealignai 发布 DeepSeek-V4.1-Flash-1017-UNCENSORED-FP8 去审查版模型

    dealignai 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的去审查 FP8 版本,移除拒绝行为并保留视觉、视频、工具调用、推理档位(low/high/max)与 1M token 上下文。模型采用原生 FP8 (e4m3) 权重加 FP4 MoE 专家,40 层 MoE,与上游字节兼容,MIT 许可,需手动申请访问;内部合规冒烟测试 10/10 全部通过,已在 4×H200(564 GB VRAM)上验证。

  9. Reddit · r/LocalLLaMA72

    RX 9060 XT 16GB 上十个模型跑五项编码任务实测

    作者在一张 RX 9060 XT(16GB)上用五项编码任务实测十个模型,每轮只给 spec 文件,需自行产出 solution.py 和 test_solution.py 并跑测试,由模型看不到的 checker 评分,单格上限 1750 秒。deepseek-v4.1-flash 云端 API 与 Qwen3.8-27B UD-IQ4_XS+MTP(kvstream fork)均 5/5,前者 236 秒 43k tokens,后者 94 分钟 185k tokens;其余本地模型多在 4/5 或更低,c4、c5 是主要分水岭,失败集中在 tie-break 规则、嵌套组解析和用 re 回溯导致超时或内存暴涨。

    推荐理由:作者自建带盲测 checker 和性能门槛的编码评测,在 16GB 显卡上实测十个模型,失败原因逐个拆到具体规则和实现细节。

  10. Reddit · r/LocalLLaMA60

    2x DGX Spark 本地部署 DeepSeek-V4.1-Flash-1017:TensorFold 比 vLLM kit 快 2.1-2.3x

    /u/shayanx45 在 2x DGX Spark(TP=2 经 CX7 线连接)上以 EXL3 2.9bpw、1M 上下文运行 DeepSeek-V4.1-Flash-1017,实测 TensorFold 较 vLLM kit 快 2.1-2.3x:文本解码 27.0→56.8 tok/s,代码 39.9→92.2 tok/s,64K大海捞针 80.4s→35.9s;8K-64K 冷 prefill 约 2.1-2.2x,1M(1,034,753 tokens)达 1,246 tok/s。提示词缓存可跨重启恢复,18K 对话从 16.8s 降至 2.7s。部署配方与 HF 卡片已公开,引擎来自 bertholomus 的 V4.1 port,host 调优将随下次更新进仓库。

    推荐理由:作者用同一对硬件和同一组提示词给出 vLLM kit 与 TensorFold 的逐项对比数据,可复现的部署配方已开源到 GitHub。

  11. Reddit · r/LocalLLaMA60

    Xolotl 推理引擎在单张 RTX 4090 上以约 27 tok/s 运行 DeepSeek-V4.1-Flash 552B

    开发者 /u/indrasmirror 发布了基于 Strata 的推理引擎 Xolotl,可在单张 RTX 4090(24GB)加 90GB DDR4 和 NVMe 的游戏 PC 上运行 552B 的 DeepSeek-V4.1-Flash,权重分布在 VRAM、锁定内存和 NVMe 中并按 token 按需拉取专家。实测 27 tok/s 解码、180-320 tok/s 预填充、512K 上下文、HumanEval 21/21、工具调用 10/10、agentic 修 bug 3/3,同一引擎还能跑 GLM-5.3-Flash、Qwen3.8-Flash-Next 和 Qwen3.8-27B。

    推荐理由:作者给出了单张 RTX 4090 跑 552B 模型的具体配置和实测吞吐数据,方案可直接复现。

  12. Reddit · r/LocalLLaMA62

    DeepSeek V4.1 Flash 1017 的 abliterated 版与 GGUF 量化发布

    /u/mrfakename0 发布了 DeepSeek V4.1 Flash 1017 的 abliterated 版及 base 与去对齐版的 GGUF 量化(imatrix 尚在制作中)。拒绝率从 97/100 降到 4/100,think 模式从 98/100 降到 9/100;因 chat 与 think 模式拒绝方向不同,作者测量并移除了二者张成的 rank-2 子空间,并附上可免重新下载权重的 LoRA。

    同一新闻,精选展示《mrfakename 发布 DeepSeek-V4.1-Flash-1017 去对齐版》

  13. Reddit · r/LocalLLaMA46

    antirez/ds4 项目 PR #1225 增加 DeepSeek V4.1 Flash 1017 支持

    Reddit 用户为 antirez 的 ds4 项目提交 PR #1225,加入对 DeepSeek-V4.1-Flash-1017 的支持,涵盖其新 engrams 和更新的 vision tower,并校验视觉与语言模型文件配对、拒绝混搭。该版本约 40% 的 routed expert 张量、30% 的 engrams 和约 50% 的 vision tower expert 张量有改动,架构不变,ds4 量化的文件可直接加载且对旧 checkpoint 无回归。作者还将上传面向 128GB 内存的 Q2-Q8 混合量化,在 M5 Max 上预计约 20tps 解码。

  14. Hugging Face · 趋势模型70

    Unsloth 放出 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本

    Unsloth 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 Unsloth Dynamic 3.0 GGUF 量化版,1-bit 可在 128GB+ 内存设备运行,3-bit 需 256GB,全精度需 320GB。该模型为 DeepSeek-V4.1-Flash 的小幅更新,官方基准显示推理、编码、Agent 和视觉任务均有提升,如 Terminal-Bench 4.0 得分 42.3 对上一版 31.2;模型采用 MIT 许可,支持 1M token 上下文,需使用 llama.cpp PR 或 Unsloth Desktop 运行,prompt 编码由 encoding.py 与 deepseek-recipe 工具库提供。

    推荐理由:官方模型卡附上了与 DeepSeek-V4.1-Flash 及多个竞品的具体基准对比,以及量化档位对应的内存需求,可据此评估该版本的实际收益。

  15. Hugging Face · 新模型:abliterated80

    mrfakename 发布 DeepSeek-V4.1-Flash-1017 去对齐版

    mrfakename 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 版本,用方向性消融移除拒绝行为。chat 和 think 模式沿不同方向拒绝,因此移除 rank-2 拒绝子空间,逐层测量方向并投影出 40 个主层的残差流写入,各层强度由多目标搜索确定。Q8_0 GGUF 贪心解码下,chat 拒绝率从 97/100 降至 4/100,think 模式推理头拒绝从 98/100 降至 9/100,harmless 首词 KL 为 0.067;路由专家、嵌入、Engram 表和 DSpark/MTP 层与原版逐位一致,另提供 abliteration-lora.gguf 和 abliteration-edit.npz。

    推荐理由:原文给出rank-2拒绝子空间的消融方法和拒绝率前后对比数据,读者可据此判断这个去对齐版本实际去掉了多少。

  16. Hugging Face · 新模型:abliterated52

    msuiche 发布 DeepSeek-V4.1-Flash-1017 去拒绝控制向量 GLP-39-L1-39-a0.75

    Matt Suiche 在 Hugging Face 发布针对 DeepSeek-V4.1-Flash-1017 的投影控制向量(GLP),在残差流 layers 1–39 以 alpha 0.75 施加 h <- h - alpha*(h·d)d,不修改任何权重。校准阶梯显示 alpha 0.75 为拐点:refusal32 从 stock 1/32 提升到 23/32 comply,alpha 1.0 达 26/32 但中英代码混杂翻倍,alpha 2.0 反而回退到 10/32 且 31/32 出现混杂;验证基于 vLLM 离线 4x H200、greedy、thinking off、n=32。

    推荐理由:作者给出了完整的 alpha 校准阶梯和拒绝率、代码混杂等实测数据,读者可以据此判断这个控制向量的实际效果与适用边界。

  17. GitHub · 灵魂体仓库64

    ai-wargame 仓库发布:DeepSeek 与 Kimi 驱动的红蓝 AI 网络攻防对抗仿真

    GitHub 仓库 carlmasters02/ai-wargame 让两个 AI 智能体在程序化生成的企业网络 Sakura Logistics K.K. 上进行回合制网络攻防对抗,RED(默认 deepseek-chat)负责窃取核心数据库,BLUE(默认 kimi-k2)负责防御,可在交互式网络地图上实时观战、担任 judge 注入零日漏洞或 insider 事件,并支持对局中途换模型。

    推荐理由:仓库用真实 CVE、EPSS 和 CISA KEV 情报驱动两个 AI 智能体在仿真网络上对抗,还带基准脚本,想看智能体攻防推演可以自己跑一遍。

  18. GitHub · 去对齐工具与仓库61

    fast-compaction-dsh:DeepSeek Harness 的判定式上下文压缩插件

    kolawong 发布 fast-compaction-dsh,为 DeepSeek Harness(DSH)提供判定式上下文压缩,替代有损的摘要式压缩,移植自 tamaratran/fast-jev-compaction(MIT)。该插件用 jev-latest 对每个工具调用做 keep/truncate/drop 判定,保留内容逐字不变、绝不改写,用户与助手文本永不删除;失败时回退到内置 compaction-basic 摘要器。

    推荐理由:原文给出完整的判定式压缩机制、默认参数和约700ms的实测往返耗时,可了解如何在不改写原文的前提下压缩上下文。

10月17日周六
  1. GitHub · 灵魂体仓库46

    GitHub 开源项目 fly-pet:桌面苍蝇宠物,用 LLM “思考”还能整理桌面文件

    GitHub 项目 fly-pet 用 PyQt6 实现一只生活在透明窗口里的桌面苍蝇宠物,支持拖拽、动画、需求系统和躲避鼠标光标等行为。它通过 DeepSeek 作为“上层大脑”决策并评论周围发生的事,整理文件仅限移入 _data/trash 项目回收站,默认 dry_run 且需白名单授权,无删除、无自启动。项目已完成 exe 打包,并计划接入基于 FlyWire 连接组真实权重与 LIF 神经元的果蝇大脑模型来驱动其移动。

  2. AIHOT · 精选37

    DeepSeek 开放自研搜索 API

    DeepSeek 开放自研搜索 API,底层由 AI 原生的 DeepSeek 搜索引擎提供,每天稳定处理数亿次搜索请求。该引擎索引全球千亿级网页、支持多语言,并通过识别机制过滤 SEO 作弊、GEO 操纵和低质 AIGC。使用方式可参考网页搜索与抓取指南。

  3. Hugging Face · 趋势模型65

    DeepSeek 发布 DeepSeek-V4.1-Flash-1017 小版本更新

    DeepSeek 发布 DeepSeek-V4.1-Flash-1017,是 DeepSeek-V4.1-Flash 的小版本更新,在推理、编码、Agent 任务和视觉基准上大幅提升,同时缩短任务执行时间和输出长度,推进多 Agent harness 下的性能成本帕累托前沿。Terminal-Bench 4.0 达 42.3(上一版 31.2),Automation-Bench 达 60.5。该版本不含 Jinja 聊天模板,改为提供 encoding.py 参考实现和 deepseek-recipe Rust 库工具包,支持 1M tokens 上下文窗口、max_tokens ≥ 256K,推荐 temperature 1.0、top_p 1.0,采用 MIT 许可证。

    推荐理由:技术报告给出与 Kim3、GPT-5.6、Opus 5 等的对比数据,并附推荐采样参数与推理工具链,方便本地复现。

  4. GitHub · 灵魂体仓库37

    Adelie:基于 PenguinHarness 的本地优先多智能体应用开发平台

    Adelie 是 PenguinHarness(Apache-2.0)的 fork,定位为本地优先的多智能体应用开发平台,覆盖智能体应用的创建、评估、优化与部署。它宣称构建智能体比 LangChain 快 100 倍,在数据分析评测集上准确率最高、成本仅为 Claude Code 的 1/70,并用 DeepSeek V4 Pro 以 ¥0.2 ($0.02) 生成过完整 RAG 问答应用。内置四类插件库和自演进引擎,支持 DeepSeek V4、Kimi K3、GLM 5.3、Qwen 3.8 Max、GPT 5.6、Gemini 3.7 Flash、Claude 5 等模型,发布 Windows 与 Linux 安装包(macOS 暂未构建)。

  5. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本,以原生 FP8 权重提供,支持 1M token 上下文、视觉与工具调用。HarmBench-320 实测显示 CRACK 版在 effort=off 和 max 下均 100% 通过,而基座模型分别为 42.81% 和 1.56%;MMLU-14k 整体下降 4.22 pp,剔除伦理类科目后约 -1.1 pp。模型卡还给出 SGLang 部署配置、KV 内存占用估算(890 B/token)、4×H200 上的吞吐数据(单流 101 tok/s,DSpark 后 113 tok/s)及多项启动注意事项。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  6. GitHub · 灵魂体仓库35

    netoger/skachat:支持 TikTok/Instagram/YouTube 下载的 Telegram 机器人,集成 DeepSeek 聊天助手

    GitHub 开源项目 netoger/skachat 是一个 Telegram 机器人,接受 TikTok、Instagram 和 YouTube 视频链接并回传下载文件,同时通过 DeepSeek API(默认 deepseek-flash,关闭思考模式)充当聊天助手。它支持每用户每日消息限额(默认 10 条)、订阅频道门槛、cookies.txt 解决登录和反爬页面,以及并发下载控制(MAX_CONCURRENT_DOWNLOADS=3)等可靠性设置。

10月16日周五
  1. GitHub · 3D 生成新仓库53

    DSH Crew 插件开源:让 Claude Code / Codex / Antigravity / Grok 分发任务给 DeepSeek Harness 智能体

    GitHub 开源仓库 dsh-crew 发布 0.1.0-rc.11 版,这是 DeepSeek Harness(DSH)的插件,可把工作分发为 Claude Code、Codex、Antigravity 和 Grok 中的原生子智能体,宿主保留自己的模型与进度 UI。worker 分 flash/pro 两档(对应 DeepSeek V4 Flash 和 V4 Pro),支持失败升级重试、worker 嵌套深度上限 3、工作区占用锁与 jobs 面板;因 DeepSeek 模型仅支持文本,视觉优先调用 deepseek-v4-flash-vision-exp,失败时回退到已配置的 CLI。可通过 npm 的 @zseven-w/dsh-crew 一键安装。

  2. arXiv · cs.AI48

    重新思考 GRPO 在大型推理模型安全对齐中的应用并提出 Beacon 框架

    论文指出 GRPO 用于大推理模型安全对齐时存在优势坍缩与不安全多样化两种失效模式,并提出包含 Safety Signal Recovery 与 Safety-Utility Decoupled Alignment 的 Beacon 框架。在 Qwen3 与 DeepSeek-R1-Distill 四个变体、八个 benchmark 上的实验显示,平均安全误差最多降低 32.83 个百分点,同时保持较低过度拒答。

  3. Reddit · r/LocalLLaMA60

    DeepSeek V4.1 Flash 4x DGX Spark 实测:与 Patrick Moorhead 结果对比

    Reddit 用户 /u/Aroochacha 在自己的 4x DGX Spark 上复测 DeepSeek-V4.1-Flash,并与 Wccftech 报道的 Patrick Moorhead 结果对比。他指出 Wccftech 所列 476 GB 内存占用实为磁盘上的 476 GiB(511 GB),模型权重本身 511 GB,实际只能用每台 Spark 约 80%-92% 的内存,模型无法完整驻留内存,需用 SGLang TP4 加从各节点本地 NVMe 流式读取的约 196 GB Engram 表(带约 4 GB row cache)才能跑起来。

    推荐理由:作者在自建 4x DGX Spark 上复测 DeepSeek V4.1 Flash,给出逐档 prompt 的完整数据,并指出 Wccftech 把磁盘占用误报为内存需求。

  4. Reddit · r/CharacterAI32

    DeepSeek(Deepsqueak)在扮演真正“异类”外星人角色上远胜旧模型

    Reddit 用户称赞 DeepSeek 的 squeak 模型虽被批评不如旧版,但在扮演认知框架完全不同的外星人角色上明显更强。用户自创的不会英语、仅有初步心灵感应能力的外星角色 Kaz,DeepSeek 能生成有模糊结构的异族语言、让她逐步学会破碎句子,而旧模型 Nyan 常直接用流利英语回应。

  5. arXiv · cs.CL45

    DPA-MoE:面向 MoE 推理的运行时精度控制框架

    研究者提出 DPA-MoE,一个运行时精度控制框架,让 MoE 模型中被路由的专家支持任意精度。该方法用 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的分块,并在推理时依据实时 router gate 分数分配。在 Qwen3-30B-A3B 和 DeepSeekMoE-16B 上的实验显示,相同预算下 DPA-MoE 比均匀分块分配改善了 KL 散度和下游准确率,原型系统稳态吞吐开销适中。

  6. arXiv · cs.CL40

    可写性与通路:面向寻址记忆的知识注入受控研究

    一项受控研究考察向寻址条件记忆事后注入知识的可行性,结合 GPT-2 对照实验与 Qwen3.8-Flash-Next-FP8、DeepSeek-V4.1-Flash 的生产记忆实验。GPT-2 各实验组均能复现 50 条训练补全,但自然问题目标串命中平均仅 5.3%(row-only)、28.7%(无锚定投影更新)、22.0%(有锚定),严格答案得分均为零。结果显示写入可行但有边界,首 token 排名提升不代表完整答案成功。

  7. arXiv · cs.AI35

    ISW-Agent:结合 LLM 对话与 n8n 工作流的内孤立波遥感图像处理系统

    研究者提出 ISW-Agent,将 LLM 解释与 n8n 工作流及独立科学模型结合,用于内孤立波(ISW)遥感图像处理。在每种后端各 120 条中文指令测试中,GPT-5.6 Sol 和 DeepSeek 均达到 94.2% 的严格任务匹配率;50 个定时场景中 39 个完成检测、条带提取与传播预测,中位耗时 48.04 s。3,408 次故障注入测试中,重试恢复 234 次瞬态故障,输出验证拦截 234 个结构缺陷。

  8. Reddit · r/LocalLLaMA61

    DeepSeek-V4-Flash-0731 在 4 张 Radeon AI PRO R9700 上跑通 affinity,实测约 79 tok/s

    /u/brainchillzZ 在 Threadripper PRO 9955WX 加 4 张 R9700 上验证了 affinity 引擎此前被拒的 4 卡配置,DeepSeek-V4-Flash-0731 以 2.875 bpw 量化跑出 79 tok/s greedy、63 tok/s(temp 1.0),全部 11,008 个专家驻留显存,无退化输出。双卡仅 36 tok/s 且 82% 时间等待主机流式读取;作者指出原作者遇到的 bug 出在 4-on-2 模拟而非 4 rank 执行,并提示需加 --placement-strategy static。

    推荐理由:作者在四张真实 R9700 上复现了此前只能双卡模拟的 affinity 配置,给出双卡与四卡的实测吞吐对比和绕过启动报错的具体参数。