Base Compute 开源本地 LLM serving 守护进程 superfluid，统一调度 llama.cpp、MLX 与 baseRT

Base Compute 在 GitHub 开源了 superfluid，一个面向本地 LLM agent 的 serving 守护进程，在 llama.cpp、MLX 和 baseRT 之上提供统一调度器、可持久化的会话日志，以及 OpenAI、Anthropic、Ollama 兼容 API。在 Apple M5 Pro 上实测，八个 agent 预填 6k token 提示时聊天首 token 为 0.97 s，对比 llama-server 的 67 s、Ollama 的 64 s、mlx_lm.server 的 120 s；会话可在 worker 崩溃或服务器重启后恢复，八个场景全部通过，且经 superfluid 转发的吞吐与直连运行时几乎持平。