GitHub · 灵魂体仓库·· 12 天前AI 评分48
cognitio-org/mgm-pi:MacBook Pro 本地 LLM 环境与 kernal 智能体配置仓库
cognitio-org/mgm-pi
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/cognitio-org/mgm-pi
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
cognitio-org 的 mgm-pi 仓库记录了在 MacBook Pro(M4 Pro,48 GB 统一内存)上用 LM Studio 与 MLX 后端运行本地大语言模型的方案,模型为 qwen/qwen3.6-35b-a3b(Qwen 3.6 35B MoE,3B 激活,4-bit MLX,20 GB,256K 上下文),实测 73-82 tok/s、首 token 约 0.3 秒。仓库还包含基于 pi 的 kernal 编程智能体,支持连接 LM Studio、LiteLLM 路由与 OpenRouter、预算追踪、语音输入,并通过 kernal local 将本地模型共享到 Outfitter 账户。
来源:GitHub · 灵魂体仓库 · github.com