OpenClaw 模拟中本地决策模型能否降低延迟

一名用户在 OpenClaw 上运行 50–100 个智能体的沙盒模拟，用 Jev 决策模型判断智能体是否需要响应信号以减少 LLM 调用，当前网络延迟使单次响应约需 0.5–2 秒。 该用户考虑改用更小的本地决策模型（如 Needle 3）降低延迟，但不清楚这些模型在不同 GPU 配置下的运行速度，也不想为提速投入过高配置，同时询问是否有人尝试完全在 CPU 上运行这类模型。目前尚无结论。

AI 根据报道生成 · 21 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。