DeepSeek-V4.1-Flash 在 2x DGX Spark 加 3090 旧机上跑出 2600+ tok/s 预填充并公开全套代码与数据

律师 Nick Mermiges（PLI Labs）以 2.75 bpw EXL3 量化在两台 DGX Spark 上以 vLLM 张量并行运行 DeepSeek-V4.1-Flash-1017，并用一台 EPYC 3090 旧机经 RDMA 提供 Engram 表、跑 DSpark 投机草稿。256K 预填充达 2,618 tok/s，4 流结构化 JSON 输出 322 tok/s，1.93M token KV 池加 NVMe 前缀缓存使 150K 提示词重启后首 token 2.58 秒。与 MiaAI、bertholomus 构建对比：预填充和代码生成更快，纯散文和解码较慢；KLD 面板工具调用 top token 一致率 95.9%。