跳到正文
GitHub · 灵魂体仓库·· 19 天前精选AI 评分63

slm-gate 开源:用本地小模型为 Claude Code 等 AI 编码工具省配额

zenithfoundry/slm-gate

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/zenithfoundry/slm-gate

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

zenithfoundry 发布开源工具 slm-gate, 在本地通过 Ollama 运行小模型, 作为编码助手与云 AI 之间的预处理和路由层:压缩发给付费云端的大文件、日志等冗余内容, 并让本地模型尝试回答对话首条简单消息以避免消耗付费配额。工具兼容 Claude Code、Codex、Cursor、Gemini CLI、Cline 及任何 MCP 客户端, 依赖 Node.js 22+、16 GB 以上内存, 用 SQLite 账本记录 token 节省量并提供本地 metrics 命令与可发布到 GitHub Pages 的仪表盘, 可选接入 Langfuse。MIT 许可。

推荐理由

开源工具在本地用小模型压缩上下文并拦截简单请求, README 给出完整架构、配置与度量方法, 思路可迁移到自己的编码工作流。

来源:GitHub · 灵魂体仓库 · github.com