ReVolta 0.1.2 发布:DFlash 投机解码跑通 4× V100
ReVolta 维护者发布 vLLM 分支 0.1.2 版,在 4× V100(SM70、无 NVLink)上实现 DFlash2 投机解码,作者称可能是首个在 Volta 上跑通的案例。drafter 使用 incoai 的 DFlash2 checkpoint,从目标模型 hidden states 起草 8-token 块并由目标单次验证;测试模型为 Qwen3.8 Flash-Next(AWQ)、512K 上下文、FP8 KV 加 CPU offload、TP4 + DCP2。实测单请求英文代码 201 tok/s(对比 163)、英文推理 195(对比 163)、中文 85–101(对比 100–105)、8 并发混合 331(对比 357);KV 池增大约 10% 至 1.27M tokens。