DeepSeek-V4.1-Flash 在 4 张 V100 32GB 上跑到 40 tok/s 解码，下一步将测试 8 卡

Reddit 用户在 4 张 V100 SXM2 32GB（NVLink 互联）加 256GB 系统内存上运行 DeepSeek-V4.1-Flash，基于 1Cat-vLLM fork 的 Volta (sm70) 支持，524,288 token 上下文。8K 上下文解码 36-38 tok/s（thinking off），75K 时 32-38 tok/s，prefill 约 1,000-1,200 tok/s（4K-128K）。约三分之一的 expert 权重通过 pinned host RAM 按需换入 GPU，并使用内置 DSpark drafter 做 5 draft token 的投机解码，后续计划改双 PCIe switch 并升级到 8 卡 V100 测试。