Local Agent Lab:在单台 Mac 上评测本地 LLM 并演示多智能体场景
LinTzuTang 在 GitHub 发布 Local Agent Lab,一个基于 Ollama、LangChain 1.x / LangGraph、自建模型网关和 PostgreSQL 的 Streamlit 工作台,可对 107 个本地模型做能力标注、一键下载和最多六模型同题对比,并内置九个 LangGraph 多智能体工作流与本地语音助手。近期更新包括级联、轮次、全双工三种语音对话模式,本地神经 TTS(Kokoro-82M、Qwen3-TTS 0.6B 等)与 TTS 基准,前端模型定为 Gemma 4 12B(7.7 GB,十模型七对话测试全对且无编造)。
推荐理由:作者在单台 Mac 上跑通本地 LLM 评测与多智能体演示,并给出各环节在 M5 Pro 上的实测延迟与吞吐数据。