GitHub · 灵魂体仓库·· 20 天前精选AI 评分72
sous 发布:让 Claude Code 的 subagent 在 Mac 本地 MLX 模型上运行
krcm0209/sous
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/krcm0209/sous
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
sous 是一个面向 Apple silicon Mac 的本地守护进程,介于 Claude Code 和 Anthropic 之间:主循环请求原样转发到 Anthropic 走用户自己的 Pro/Max 登录,subagent 请求则由本地 MLX 模型(默认 mlx-community/Qwen3.8-27B-4bit,约 16 GB 下载,需约 18 GB 空闲统一内存)应答,不再消耗订阅额度。跨会话的提示缓存分叉让新会话首次本地回合从 170 秒降到 16 秒,守护进程重启后为 15.7 秒;默认模型在 M5 Pro 上解码约 31 tok/s(2K 上下文)、25 tok/s(57K),一次只服务一个 subagent,且 Anthropic 官方不支持这种网关路由方式。
推荐理由
项目把子代理请求转到本地 MLX 模型并保留主循环在 Anthropic,给出了跨会话缓存分叉的前后耗时实测数据。
来源:GitHub · 灵魂体仓库 · github.com