本地跑模型时“重新发现”批处理与 swarm 多智能体：Qwen3.8 27B 单卡 12 个 agent 吞吐最高

一位 Reddit r/LocalLLaMA 用户在 24GB VRAM 的 RTX 3090 上运行 Qwen3.8 27B Q4_K_M（197k 上下文）时发现，同时运行多个 agent 的总 token 生成吞吐高于单个 agent：agent 数从 1 增到 12 时总吞吐从 30 tok/s 升至 110 tok/s，单 agent 吞吐则从 30 降至 9。由于每个 agent 可用上下文随数量减少，需配合自动压缩与高效循环，并让各 agent 生成子任务，在不增加能耗的前提下最大化硬件利用率。