跳到正文
GitHub · 灵魂体仓库·· 12 天前AI 评分48

cognitio-org/mgm-pi:MacBook Pro 本地 LLM 环境与 kernal 智能体配置仓库

cognitio-org/mgm-pi

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/cognitio-org/mgm-pi

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

cognitio-org 的 mgm-pi 仓库记录了在 MacBook Pro(M4 Pro,48 GB 统一内存)上用 LM Studio 与 MLX 后端运行本地大语言模型的方案,模型为 qwen/qwen3.6-35b-a3b(Qwen 3.6 35B MoE,3B 激活,4-bit MLX,20 GB,256K 上下文),实测 73-82 tok/s、首 token 约 0.3 秒。仓库还包含基于 pi 的 kernal 编程智能体,支持连接 LM Studio、LiteLLM 路由与 OpenRouter、预算追踪、语音输入,并通过 kernal local 将本地模型共享到 Outfitter 账户。

来源:GitHub · 灵魂体仓库 · github.com