跳到正文
GitHub · 去对齐工具与仓库·· 17 天前精选AI 评分61

OpenJet 开源:面向本地 LLM 的自托管 AI 编码智能体

L-Forster/open-jet

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/L-Forster/open-jet

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

L-Forster 发布开源项目 OpenJet,一个自托管的本地 AI 编码智能体,可连接 Ollama、LM Studio、llama.cpp 或自动按硬件配置 GGUF 模型,支持文件编辑、审批式 shell 命令、MCP 工具、持久会话和 Python SDK 嵌入。RTX 3090 上 Qwen3.8-27B Q4_K_M 经 MTP 达 70 tok/s,配合 megakernel 引擎推理模式约 1.5 倍解码提速;Slipstream 模式用云端模型规划、本地模型执行,目标编排器 token 占比 20%。核心采用 AGPL-3.0 许可。

推荐理由

本地编码智能体把模型运行时、agent 循环和硬件配置整合成一键部署,还给出 RTX 3090 上的实测 tok/s 数据可对照。

来源:GitHub · 去对齐工具与仓库 · github.com