跳到正文

内容形态

开源项目 最新动态

开源仓库与工具：人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,045 条精选近 30 天 2,038 条共收录 8,494 条

更新

精选归档 · 第 37 页

10月9日周五第 721–740 条
  2. GitHub · 灵魂体仓库61

    Undertone 开源：macOS 浮窗用本地 Qwen 3.5 4B 为中文用户解读英语潜台词

    作者开源了 Undertone，一款 macOS 浮窗工具，通过 ScreenCaptureKit 截屏加 OCR 读取聊天窗口，用本地 Qwen 3.5 4B 模型（经 Ollama 运行）把英语消息的真实含义以中文解释出来，将消息分为 11 类识读并建议回复，还可检查草稿语气。默认全本地运行，可选用云模型。自建评测集显示本地模型识读开发集 80%、held-out 集 68%，草稿检查 23/26；另用 QLoRA 微调实验把 base 模型从 31% 提升到与提示版相当的水平并快约 35%。内置关键词安全网提醒外贸换账户诈骗等风险，项目以 Apache License 2.0 发布。

    推荐理由：作者公开了完整的识读流程、评测集和微调对比数据，读者能据此评估本地小模型做英语潜台词解读的真实水平。

10月8日周四
  1. GitHub · 去对齐工具与仓库56

    Multi-Agent-Evolution-Framework 0.2.1 发布：跨CLI编排代码修改智能体

    MAF 是一个与具体 CLI 无关的多智能体编排框架，由模型规划任务 DAG，再把各节点分派给 coder、tester、security、reviewer 等角色，每个角色带独立系统提示词和工具白名单。0.2.1 版本已支持 Claude Code、Gemini、Codex 三种 CLI 后端和 Ollama、OpenRouter 两种 HTTP API，内置策略引擎、路径限制、密钥脱敏、写入角色全仓库 diff 安全审查，以及 HMAC 签名的 SLSA 风格证明包。README 用状态表逐项区分已交付与计划中功能，并附对应测试文件；worktree 隔离、人工审批门、in-toto 证明等留待 0.3.0。

    推荐理由：README逐条标注每个特性是否已交付、对应测试与版本，读者可据此评估这个多智能体编排框架的真实完成度。

  2. GitHub · 去对齐工具与仓库69

    fagan：用前沿模型做判断、本地模型写码的低成本自主编码流水线开源

    GitHub 开源项目 motock/fagan 提出一条自主编码流水线：前沿模型负责分解任务、规划、审查 diff 和裁决风险，本地模型（经 Ollama、LM Studio 或 MLX）负责零边际成本的实现。项目以 Michael Fagan 1976 年 IBM 形式化审查研究为依据构建闸门，包括实现前强制 TDD、独立审查、验收 oracle 评分、风险分级 overlord 和合并前重跑测试的 merge gate，目标是把企业级工程纪律压到每月 20 美元预算内。

    推荐理由：作者把判断交给前沿模型、把写码交给本地模型，并用 TDD 和多重闸门控制质量，还公开记录了失败模式和局限。

  3. GitHub · 去对齐工具与仓库68

    LeenHawk 开源自托管 LLM API 网关 GPROXY v4

    LeenHawk 发布了 Rust 编写的自托管 LLM API 网关 GPROXY v4，统一管理上游凭据、模型路由和用量成本，支持 OpenAI Chat Completions、Responses、Claude Messages 和 Gemini GenerateContent 协议转换。v4 可作为桌面/移动应用、CLI、容器部署，或托管到 Cloudflare、Netlify、Vercel 和 Deno，内置 OpenAI、Claude、Gemini、DeepSeek、GLM、Kimi、OpenRouter 等渠道；本地 SQLite 实测 1 连接下网关增加约 0.30 ms 中位延迟，64 连接时 p99 升至约 42 ms。

    推荐理由：原文给出完整部署方式与实测延迟数据，读者可以据此评估这个自托管网关是否适合统一管理多家模型凭据。

  4. GitHub · 去对齐工具与仓库61

    Agent-Brain-Hub 开源：为多个 AI Agent 提供共享记忆大脑

    GitHub 项目 leluong141996-dev/Agent-Brain-Hub 开源，为公司内所有 AI Agent 提供一个共享记忆大脑：在 UI 中创建 Agent，或通过 REST API、SDK、MCP 接入已有 Agent，所有 Agent 读写同一份记忆，实现跨 Agent 知识复用与上下文交接。记忆按 CoALA 框架组织为 13 个脑区和唤醒/睡眠周期，支持 Vi/En/Ja 三语，存储用 SQLite，可 Docker 一条命令启动，也能经 vLLM 本地运行 Qwen3-4B。

    推荐理由：原文完整给出了共享记忆架构、13 个脑区设计、权限与审计机制和部署方式，读者可以直接照着搭建跨 Agent 记忆系统。

  5. GitHub · 去对齐工具与仓库57

    inixiative/foundry 发布 Agent 编排框架

    inixiative 在 GitHub 发布开源 Agent 编排框架 Foundry，主打上下文分层、能力门控、多线程流水线和实时操作面板，不再只控制提示词。框架支持 Anthropic、OpenAI、Gemini 及 Claude Code、Codex 订阅登录，默认用本机已有登录免 API key 运行；需要 Bun v1.0+，core 包 MIT 协议，foundry 包为 BSL 1.1（2030-04-06 转 MIT）。

    推荐理由：原文完整介绍了框架的上下文分层、能力门控和人工审批机制，读者可以直接按 setup 流程搭建自己的多智能体系统。

  6. GitHub · 去对齐工具与仓库66

    Vessel 开源：本地优先的 LLM 流量观测代理

    spenceclark 在 GitHub 发布 Vessel，一个轻量的本地优先 LLM 流量观测代理，把客户端 base_url 指向单个二进制即可获得捕获、搜索、指标、重放和私有 UI，捕获流量仅存本机。支持 OpenAI、Anthropic、Ollama 及任意 OpenAI 兼容后端的路由与标签，重放可一次扇出最多 8 个变体并对比响应，提供 1–5 评分榜单、CSV/JSONL 导出和只读 MCP 端点，提供 Homebrew、winget、Scoop、Docker 安装方式，MIT 协议。

    推荐理由：开源的本地 LLM 流量观测代理，读者可以借此在不改客户端的情况下捕获、重放和对比多后端请求。

  7. GitHub · 灵魂体仓库55

    karmise/local-llm-lab：基于 AnythingLLM 与 Ollama 的本地 LLM/RAG 测试框架

    karmise 发布 local-llm-lab，一个本地 AnythingLLM 环境加 Python 自动化框架，用于测试 LLM 和 RAG 工作流。框架提供分层 API 客户端、工作区生命周期、文档检索、两个生成模型的对比检查、本地 RAGAS 评测与人工标注判分控制、16 例 golden 数据集、对抗与偏见回归场景及 Playwright UI 场景；组件含 AnythingLLM、Ollama、Qwen3.5 4B、Qwen2.5 7B、BGE-M3 和 LanceDB，通过 ./lab.sh 管理环境，GitHub Actions 运行离线检查。

    推荐理由：这个本地 RAG 测试框架把 API 分层客户端、上下文捕获、RAGAS 评测和人工校准的判分控制串成完整流程，做法可直接迁移。

  8. GitHub · 灵魂体仓库74

    LocalAI 团队发布 C++ 推理引擎 vllm.cpp：66 MiB 部署对标 vLLM

    LocalAI 团队发布从零编写的 C++20 推理引擎 vllm.cpp，无 Python 与 PyTorch 依赖，二进制仅 66 MiB，对比 vLLM 9.1 GiB 安装约省 140 倍。在 GB10 上 Qwen3.6-27B NVFP4 输出与 vLLM token 级一致，c1 吞吐 86.05 vs 82.32 tok/s，峰值内存 24.88 GiB vs 28.18 GiB；支持 CUDA/CPU/Metal/Vulkan、44 种架构、GGUF 压缩块直接计算和 MTP、DFlash 等投机解码。项目处于重度开发期，多数架构速度验证仍标记为 speed-pending，llama.cpp 对照数据基于已被取代的 fork，待重测。

    推荐理由：LocalAI 团队的 C++20 推理引擎，README 给出了与 vLLM、llama.cpp、MLX-LM 的逐项对照数据和明确的 speed-pending 标注，可了解无 Python 推理栈的真实水平。

  9. GitHub · 去对齐工具与仓库60

    开源 RAG 客服助手 rag-support-assistant：本地检索、拒绝兜底与 56 题评测数据

    ultimatekillingmachine 在 GitHub 发布 RAG 客服助手 rag-support-assistant，仅依据公司帮助文章回答问题、附编号引用来源，检索不到相关内容时直接拒绝作答。项目开箱即离线，使用本地嵌入（intfloat/multilingual-e5-large）、SQLite 和离线应答 stub，也可指向 DeepSeek、OpenAI 或本地 Ollama 等 OpenAI 兼容模型；检索融合向量与 BM25（RRF 融合）并设 0.80 置信度门槛，支持流式输出、bearer token 权限分级和 Docker 部署。

    推荐理由：原文附上 56 题评测与消融结论，reranker 更差更慢、拒绝不调用模型等实测细节可直接复用到自建 RAG 客服系统。

  10. GitHub · 灵魂体仓库64

    开源听写工具 Earheart 发布，语音输入可直通 Claude Code 与 Cursor

    Earheart 是一款开源本地听写工具，按全局快捷键（默认 Ctrl/Cmd+Shift+Space）说话即可把清理后的文本粘贴到当前聚焦的应用，无需集成即可用于 Claude Code、Codex、Cursor 等。语音用 NVIDIA Parakeet TDT 0.6B v3 在本机转写，Qwen3 4B Instruct 2507 在本机去除口头填充词和false starts，默认完全本地、无遥测和账号，也支持指向任意 OpenAI 兼容的转写或清理端点。支持 Windows、macOS（Apple Silicon）和 Linux，提供实时转写悬浮条、技术名词词典、暂停续录、本地历史和自动更新，MIT 协议开源。

    推荐理由：这是一个开源语音听写工具，语音识别和文本清理都默认在本机运行，适合关心隐私又想用语音给编码智能体写长提示词的人。

  11. GitHub · 灵魂体仓库67

    Krill 发布：Mac 原生 Swift + MLX 运行时，引擎与 coding agent 合一

    srvsngh99 发布 Krill，一个 Mac 原生 LLM 运行时兼 coding agent，单一 Swift + MLX 二进制支持文本、视觉和语音，无需 Python。内置 agent 循环（工具、文件编辑、web fetch、权限）、OpenAI/Ollama/Anthropic 兼容 API 和浏览器手机 UI；对 Ollama 的对比称连续批处理约 2 倍吞吐、Gemma-4-E2B 上 TTFT 约 5 倍、峰值内存约 3 GB 对 8.8 GB。支持 krill pull 一键下载 46 个聊天与多模态模型，可接入 OpenCode 免费模型和 Codex 订阅，项目为 MIT 许可的早期版本。

    推荐理由：把推理引擎和 coding agent 合进一个 Swift + MLX 二进制，与 Ollama 的对比数据和架构说明写得具体，可作本地 Agent 部署参考。

  12. GitHub · 灵魂体仓库56

    Bubbly 发布：本地优先的 AI 编码 Agent，含桌面 IDE 与终端客户端

    regnant-io 在 GitHub 发布开源编码 Agent Bubbly（MIT 协议），完全在本地运行，支持 Anthropic、Ollama、Gemini、OpenRouter 等模型，提供桌面应用、终端 CLI 和可 headless 运行的 HTTP+WebSocket 后端三种形态。线程可在本地目录、SSH 远程主机或克隆的仓库中工作；工作流要求每阶段有验证证据才能结束，watcher 机制避免长构建轮询烧 token，关闭窗口最小化到系统托盘后后台线程继续运行，并内置 48 个按需注入的技能、AES-256-GCM 加密凭据保管和分级权限与审计日志。

    推荐理由：README 讲清了这套本地优先编码 Agent 在验证、后台等待和失败如实报告上的设计取舍，方法可借鉴到自己的 Agent 工程里。

  13. GitHub · 去对齐工具与仓库62

    Cordon 开源：本地大语言模型保密推理控制平面

    regnant-io 在 GitHub 开源了 Cordon，一个部署在本地模型运行时之前的保密推理控制平面，提供客户端证书身份、按客户端策略与限速、输出内容过滤、防篡改审计日志和逐响应 Ed25519 签名。它监督 llama.cpp 的 llama-server 作为唯一入口运行，支持 light 到全气隙 dark 共五种部署模式；README 区分了已测试能力、依赖 TPM 2.0 与 AMD SEV-SNP 硬件的能力、未实现部分（如 SGX-DCAP、证书吊销）以及有意保留的弱点。

    推荐理由：原文用很大篇幅说清哪些保证已实测、哪些依赖硬件、哪些是有意保留的弱点，读者可以据此评估它是否适合自己的保密推理部署。

  14. GitHub · 去对齐工具与仓库66

    support-agent 开源韩语客服 LLM 智能体与规则化评测环境

    hyeonbin123 在 GitHub 开源了用工具调用处理韩语虚拟购物客服的 LLM 智能体，并配套可复现的规则化评测环境（开发用 24 题、测试用 40 题，pass^k 与无 LLM 的 DB 状态判定，遵循 τ-bench 方法但任务自建）。本地 4~14B 模型实测中，qwen3.5:4b 将测试集 pass^1 从 18.1% 提到 55.6%；语音通道使 pass^1 从 16.2% 跌至 1.9%，规则化正则化挽回约一半至 8.8%；改用发信号码加姓名精确核验后身份核验从 53.1% 升至 80.2%。项目含 FastAPI 聊天服务、MCP 服务器、审批队列与审计日志，全部指标可从 reports/ 记录重新计算。

    推荐理由：作者用 pass^k 与无 LLM 的规则化判定量化了语音通道、模型升级和小型模型对客服智能体成功率的影响。

  15. GitHub · 灵魂体仓库58

    Rice00 发布 dsh-tree-view 插件：用树形视图管理 DSH 会话分支

    Rice00 发布 DSH 插件 dsh-tree-view 1.0.0，把编辑旧消息或自带按钮分叉出的会话版本画成一棵树，侧栏始终只留一条主线。插件点击节点即可切换版本，支持长段折叠、多分支并行、已归档版本留在树上变暗显示，不删不改写会话内容，唯一写入的持久事件是带 ignorable 标志的 message-tree/version 标记；已验收 DSH 0.1.5-rc.2、0.1.7-rc.1 与 0.2.0-rc.1，可从 npm 或 GitHub 安装，MIT 许可，仓库 fork 自 dsh-plugin-message-edit。

    推荐理由：插件作者亲自说明了树形视图的分叉实现与归档边界，读者可以据此评估它对会话数据的侵入程度。

  16. GitHub · 灵魂体仓库59

    mantis：本地代码安全审计工具，用 OpenGrep 加 LLM 混合排查

    TyrusRC 发布 mantis，一个本地代码安全审计工具，用 OpenGrep 做静态扫描、由 LLM 对扫描标记的代码切片做推理复核。支持作为 Claude Code 斜杠命令运行，也可作为独立 CLI 接入 Anthropic、Google、OpenAI、OpenRouter、Ollama 等 litellm 支持的提供商；提供 quick、deep、bugbounty、cve 等审计模式与 --fix、--skip-llm 等选项，除每日一次的 PyPI 版本检查外无任何出站网络调用。

    推荐理由：原文给出了完整的安装方式、审计模式和流水线分阶段说明，读者可以直接按需选择用 Claude Code 或独立 CLI 跑本地代码安全审计。

  17. GitHub · 灵魂体仓库58

    claude-code-cost-sidebar：为 Claude Code 增加实时成本与用量侧边栏

    andrewbakercloudscale 发布 claude-code-cost-sidebar，为 Claude Code 提供实时可见的成本与 token 用量侧边栏，随会话逐轮更新而非月底才看账单。需 Claude Code 2.1.287 及以上，依赖 git、jq、Node.js，成本按 Anthropic 公布的 API 费率从会话 transcript 逐轮计算；可选搭配 Claude Burst 网关显示计划限额和暂停压缩等额外信息。

    推荐理由：原文详细说明了安装、成本计算原理和阈值设计，读者可以照着把这个实时成本面板跑起来并理解其局限。

  18. GitHub · 去对齐工具与仓库65

    Optimus 本地优先个人 AI 助手开源：Ollama 与云端混合路由，内置 23 个工具

    GitHub 用户 Rishabh775 开源了 Optimus（jarvis），一个本地优先的个人 AI 助手，在 Ollama（本地）与云端模型间混合路由，默认云端为 longcat-2.5-preview-free，代码任务路由到 Kimi K2.7 Code，失败时回退到 mimo-v2.6-flash（$0.14/$0.28 per 1M tokens）。语音链路为 faster-whisper STT、openWakeWord 唤醒词（误触发率约 0.1%）和 edge-tts，内置 23 个工具覆盖记忆、shell、文件、网页、邮件、日历和 Home Assistant，每轮工具调用上限 12 次，并提供破坏性命令黑名单与确认门等安全防护。项目采用 MIT 许可证。

    推荐理由：仓库完整给出了语音管线、混合路由、唤醒词训练和安全防护的具体实现，想自建本地语音助手可以直接复用这套做法。