GitHub · 灵魂体仓库·· 19 天前精选AI 评分76
SHUTTLE v1.0.0 发布:本地 MCP 推理层替编码 Agent 读长文件省上下文
FPGArtktic/shuttle-stack
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/FPGArtktic/shuttle-stack
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
FPGArtktic 发布 shuttle-stack v1.0.0,一个部署在本机的 MCP 推理层:两个 rootless Podman 下的 llama-server 实例(Qwen3-8B Q4_K_M 和 Qwen3-1.7B Q8_0)加一个 MCP 代理,Agent 传文件路径让本地模型读取并只返回带引文出处的答案。实测把读 install.sh 的 12844 token 上下文开销降到 468 token,节省 97%;容器网络无出站路由并用两探针审计,20 个评测用例在 long 服务器上 20/20、fast 上 18/20。九个里程碑已完成六个,需 Arch Linux 或 Ubuntu 24.04+、约 12.5 GB 磁盘,GPU 可选。
推荐理由
项目用实测数字说明本地模型替 Agent 读长文件能省多少上下文,安装、隔离和评测方法都可复现。
来源:GitHub · 灵魂体仓库 · github.com