跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,050 条精选近 30 天 2,043 条共收录 8,516 条

更新

精选归档 · 第 34 页

10月9日周五第 661–680 条
  1. GitHub · 去对齐工具与仓库72

    终端编码 Agent pcode 发布,支持后台任务唤醒与会话级 git worktree 并行

    cruxwell 发布终端原生编码 Agent pcode,面向长时间运行与并行工作场景。后台命令完成后会唤醒 Agent 去跟踪测试或 CI 并修复失败,每个会话可用独立 git worktree 让多个 Agent 同时操作同一仓库,/tree 可回退并分叉对话,/tools 可查看每条命令及完整输出。它可运行在 Pydantic AI 支持的任意模型上,也可通过 Claude Code login 或 Codex login 使用 Claude 或 ChatGPT 订阅,支持 Homebrew 或 uv 安装。

    推荐理由:作者官方发布终端编码 Agent pcode,背景任务唤醒、会话级 git worktree 和对话树分叉的完整说明便于评估是否适合并行开发流程。

  2. GitHub · 去对齐工具与仓库56

    adversarial-audit-engine v1.13.1 发布:以代码强制纪律的对抗式审计工具

    eddo-cto 发布 adversarial-audit-engine v1.13.1,通过盲测对抗角色跨厂商审查文档或技术产物,试图证伪而非验证。工具以无依赖的 Python 核心在代码层面强制信任协议:发现必须引用原文逐字引文,验证结论需操作者持有的 HMAC 密钥签名,跨厂商独立性凭适配器身份证明,且任何内部结论最高只到待人工审查,只有人类能给出 VALIDATED。支持 Claude Code 插件安装,Type-I 错误率经盲测对照电池校准并随运行报告置信区间,仓库另附多篇已存档于 Zenodo 的方法论文。

    推荐理由:原文讲清了这套对抗式审计工具用代码强制独立性与反幻觉门的具体机制,读者可了解如何以工程纪律约束 LLM 审计。

  3. GitHub · 去对齐工具与仓库71

    Thyra-AI 开源 llm-env-vault:用 MCP 服务器将 .env 密钥隔离在 AI 编程智能体之外

    Thyra-AI 在 GitHub 发布 llm-env-vault,一个 MCP 服务器,把 .env 文件中的真实密钥替换为编号占位符并存入密码加密的本地保险库。AI 智能体只能读到占位符;运行真实命令时通过智能体无法操作的 GUI 密码对话框授权注入。v2 格式采用 scrypt 密钥派生与 AES-256-GCM,支持纸面恢复密钥、8 小时可信命令缓存和 .levault 整文件加密,可作 Claude Code 插件安装。作者明确了威胁模型边界:不防护已持有主密码或可驱动 GUI 的智能体,加密后原文件的删除是尽力而为,离线攻击 vault.enc 的强度取决于密码长度。Windows 是受测平台,macOS/Linux 需 PATH 上有 python。

    推荐理由:原文详细说明了占位符替换、加密格式和威胁模型的边界,读者可以据此评估这个把 .env 密钥隔离在 AI 编程智能体之外的方案是否适用。

  4. GitHub · 去对齐工具与仓库61

    digdeep 开源免费深度研究引擎,自带引用审计与自我评分

    mahmoudmohamedxx1-hue 在 GitHub 发布开源深度研究引擎 digdeep v1.0.0,免费且默认无需 API key。每份报告公开完整推理过程,对每条引用做原文比对审计并公布 integrity 百分比(示例:8 条引用审计后 88%),按证据、覆盖、诚实、清晰四维自我评分,写作前经红队攻击与 proposer-vs-skeptic 辩论。内置 13 个搜索引擎(6 个全网 keyless + 7 个垂直),默认模型链 GLM-5.3-Flash → GLM-4.5-Flash,无 key 时自动切换 LLM7 和 Pollinations。作者公布 quick preset 下早期运行平均约 52% 关键词覆盖率的诚实基线。

    推荐理由:这个开源深度研究引擎把引用审计、自我评分等诚实机制全部公开可复现,其自我校验做法可迁移到其他研究工具。

  5. GitHub · 灵魂体仓库64

    HybridRAG 开源:本地多用户文档问答,附检索与生成实测数据

    nithya-prakash 在 GitHub 开源 HybridRAG,一个本地运行的多用户文档问答系统,采用 dense + BM25 混合检索、RRF 融合、cross-encoder 重排与拒绝式防幻觉,支持 Ollama 本地模型及 Groq、OpenAI、Gemini 托管模型。作者自建 116 题 8 文档评测集,混合检索 Recall@1 0.929,防幻觉 guard 准确率 93.1%、召回 76.5%,Groq gpt-oss-120b 生成 faithfulness 1.00,而本地 qwen2.5:3b 仅 0.43,表明检索非瓶颈、本地小模型是短板。作者亦如实指出评测集小且不独立、120B 模型自评偏乐观等局限。

    推荐理由:作者用自建 116 题标注集给出检索、防幻觉与本地和托管生成模型的对照数据,可直接评估这套 RAG 方案的取舍。

  6. GitHub · 去对齐工具与仓库62

    ask-my-site 开源:为任意网站构建免向量数据库的 ⌘K 问答框

    开源项目 ask-my-site 发布,为文档站、产品站和作品集提供即插即用的 ⌘K "Ask AI" 问答框。它在构建时把内容索引成一个静态 JSON 文件,请求时在内存中用 BM25 加 int8 向量的混合检索(倒数排名融合),无需向量数据库;无相关内容时先经相关性门控拒绝,不调用模型。附带 Docusaurus、Astro/Starlight 插件和 Hugo、Jekyll 等静态站的 script 嵌入方式,基准测试显示 10,000 个 chunk 时索引约 15.7 MB、查询 p50 约 7 ms、Recall@10 达 99.1%。

    推荐理由:原文给出了静态索引替代向量数据库的完整实现和基准数据,读者可以据此评估在多大语料规模下放弃向量库是可行的。

  7. GitHub · 灵魂体仓库57

    ai-org 开源:从一句话需求到本地部署的多智能体应用生成流水线

    GitHub 项目 Rajkumar2002-Rk/ai-org 发布,用 10 个专项 Agent 阶段把一句英文应用描述端到端生成、测试并部署为隔离的本地 Docker 应用,含 Claude Opus 安全审查与临时环境 QA。核心是一个 Code Integrity Engine,用 40 多个不依赖 LLM 的确定性门禁(AST 分析、符号表、离线 pip 黑名单等)校验生成代码并反馈修复重试,每个门禁都来自真实运行中捕获的失败并配回归测试;后端约 15.7k 行 Python、68 个模块,测试约 9.7k 行无 LLM 离线套件,支持 OpenAI、Anthropic、Gemini 按阶段成本路由。

    推荐理由:这个多智能体建站流水线把 LLM 输出当不可信输入,用 40 多个无 LLM 确定性门禁校验并自动修复,做法可迁移。

  8. GitHub · 去对齐工具与仓库56

    mini-infer-engine:从零实现的 LLM 推理引擎,在 CPU 上复现 vLLM 核心机制

    作者开源了从零编写的 LLM 推理引擎 mini-infer-engine,基于 Qwen2.5-0.5B-Instruct 在纯 CPU 笔记本上完整实现四个阶段并实测。连续批处理把 8 请求工作负载吞吐从 11.55 tok/s 提到 35.61 tok/s(3.08x);Paged KV-cache 因未写定制 fused kernel 且测试提示长度相近,吞吐降至 13.94 tok/s、内存节省 0%,作者如实记录这是工作负载相关的取舍;优先级调度器通过抢占让 HIGH 请求实现 0ms 等待、98ms 首 token 延迟,被抢占请求总耗时从 8.06s 增至 10.49s。

    推荐理由:作者从零实现了连续批处理、Paged KV-cache 和优先级调度,并用同负载实测各阶段吞吐,可作推理系统学习参考。

  9. GitHub · 去对齐工具与仓库67

    llm-router 开源:用免费和本地模型为 Claude 订阅节省配额

    llm-router 是一个开源路由工具,通过钩子在编程工具的模型读取提示词前拦截,用免费或本地模型先起草答案,无需 API 密钥即可在 Claude Pro/Max 订阅下运行,以减少五小时窗口内的配额消耗。草案默认仅作提示,Claude 仍接管回合,除非设置 LLM_ROUTER_ZERO_CLAUDE=1;正则启发式在 1,571 条实测提示词中高置信分类了 788 条。项目在 RouterArena 基准得 72.35 分,节省数据区分已验证与未验证并公开在 docs/MEASUREMENT.md。

    推荐理由:这个路由工具把免费模型草案嵌入 Claude Code 的钩子流程,并公开了测量方法与负面结果,方法细节可直接参考复用。

  10. GitHub · 灵魂体仓库62

    TokenFrugal 开源:用本地小模型分担 Claude Code / Codex 的例行编码任务

    GitHub 用户 maxh8086 开源了 TokenFrugal,一个 MCP 服务器,把样板代码、测试、文档、审查和研究等例行任务交给 Ollama 或任何 OpenAI 兼容 API 的免费本地 LLM,云端模型只负责架构和难点决策,每次任务只返回 150-300 token 的摘要。它将 282 个 agency-agents 人格映射到 11 个角色(builder、analyzer、reviewer、security 等),每个角色限制 4-6 个工具的 allowlist,失败返回 task_id 可用 resume_task 恢复,且无静默云端回退以避免意外花费。

    推荐理由:原文给出了完整的部署步骤和角色分工设计,读者可以据此把例行编码任务交给本地小模型以节省云端 token。

  11. GitHub · 灵魂体仓库59

    modal-dojo:在 Modal 上进行生产级 LLM 训练的开源库

    modal-projects 发布开源库 modal-dojo,用于在 Modal 上快速开展生产级 LLM 训练。可通过 uv pip install 安装,用 modal-dojo skills install 为本地 Agent 安装技能包,示例展示了以自定义奖励函数对 Qwen3.5-4B 在 GSM8K 数据上做 RL 训练。库支持 DeepSeek、GLM、Gemma、Kimi、Qwen3 至 Qwen3.8 等多系列模型,要求 Python 3.12。

    推荐理由:这个开源库把 Modal 上的生产级 LLM 训练封装成可安装的技能包,Agent 可直接调用,附多模型支持清单和可复现代码示例。

  12. GitHub · 灵魂体仓库76

    SHUTTLE v1.0.0 发布:本地 MCP 推理层替编码 Agent 读长文件省上下文

    FPGArtktic 发布 shuttle-stack v1.0.0,一个部署在本机的 MCP 推理层:两个 rootless Podman 下的 llama-server 实例(Qwen3-8B Q4_K_M 和 Qwen3-1.7B Q8_0)加一个 MCP 代理,Agent 传文件路径让本地模型读取并只返回带引文出处的答案。实测把读 install.sh 的 12844 token 上下文开销降到 468 token,节省 97%;容器网络无出站路由并用两探针审计,20 个评测用例在 long 服务器上 20/20、fast 上 18/20。九个里程碑已完成六个,需 Arch Linux 或 Ubuntu 24.04+、约 12.5 GB 磁盘,GPU 可选。

    推荐理由:项目用实测数字说明本地模型替 Agent 读长文件能省多少上下文,安装、隔离和评测方法都可复现。

  13. GitHub · 灵魂体仓库55

    Wavefoundry 发布本地 AI 编码智能体交付治理框架

    coryhacking 在 GitHub 发布 Wavefoundry 1.17.0,一个本地运行的 AI 编码智能体治理框架,通过强制生命周期门禁、append-only 评审账本和类型化记忆解决 agent 忘记上下文、跳过评审步骤和工作偏离计划的问题。框架内置本地 MCP 服务器提供语义、词法和代码图三层索引检索,含 Gitleaks 凭据扫描,无需服务、账号或遥测;支持 Claude Code、Codex CLI、Cursor 等主机,通过向 agent 发送 Install Wavefoundry 短语完成约 3 分钟的 agent 驱动安装,Apache 2.0 许可。

    推荐理由:原文详细说明了生命周期门禁的强制机制和本地检索架构,读者可以评估这套结构化流程是否适合自己的 AI 编码工作流。

  14. GitHub · 去对齐工具与仓库70

    Unswarm 发布自托管多机 LLM 推理管理控制面

    atretador 在 GitHub 开源 Unswarm,一个用于跨多台机器管理 LLM 推理基础设施的自托管控制面,可注册远程 agent、编排 llama.cpp 和 vLLM 等 Docker 容器,并通过 /v1/chat/completions 提供 OpenAI 兼容代理。调度器按需加载和卸载模型,让有限 VRAM(如 24 GB)看起来可服务 10 个模型,支持独占与共置模型分组、会话亲和(默认 45 秒驻留窗口)防止工具调用间的模型反复切换,并附带基准测试、用量分析、成本跟踪、路由配置和 Go 编写的 CLI。

    推荐理由:README 详细给出了共享 VRAM 调度、会话亲和和切换开销的取舍说明,读者可据此判断它是否适合自己的多模型自托管场景。

  15. GitHub · 去对齐工具与仓库63

    chwiee 开源 mirante:AI Agent 实时可视化监控面板

    mirante 是一个面向大屏的 AI Agent 实时监控面板,任何 Agent 只需改 URL 即可接入,无需改代码。它以动画地图展示 Agent、MCP server 与 tool 的调用链路,提供每次 LLM 决策的时间线、置信度、p50/p95 延迟和错误率,并内置幻觉检测(虚构 tool、参数无效、无依据引用、声称未执行的操作)与不确定性标记。代理透明转发 Ollama 与 OpenAI 兼容接口及 MCP 流量,实测每调用仅增加 0.4ms,支持 Go SDK、HTTP 事件接口和 Kubernetes 部署。

    推荐理由:这个 Agent 可视化监控面板只需换 URL 即可接入任意 Agent,实测开销仅 +0.4ms,还内置了幻觉检测规则。

  16. GitHub · 去对齐工具与仓库55

    HybridClaw 智能体运行时开源,内置 79 个业务技能并以 Qwen3.6-27B-FP8 做小模型验证

    HybridAIOne 开源了 HybridClaw,一个可自托管的智能体运行时,内置 79 个业务技能,涵盖 CRM、营销、财务、云运维等,并以 Qwen/Qwen3.6-27B-FP8 作为小模型验证基线。凭据存放在加密运行时存储中,通过 SecretRef 在执行时解析,使密钥不进入模型上下文;本地代理、托管代理与可信对等实例之间通过端到端加密 A2A 信封协作。最新版本为 v0.39.2,支持 Apple silicon 上 MLX 本地模型、Docker 沙箱、OpenAI 兼容 API 和 Discord、Slack、Teams 等多种通道。

    推荐理由:官方 README 详细说明了小模型跑业务技能的结构化方法和凭据隔离设计,读者可以了解一个可自托管的智能体运行时怎么搭。

  17. GitHub · 去对齐工具与仓库62

    spoolway 发布:用命令行状态机把编码 agent 组成确定性流水线

    marvingygas 在 GitHub 发布 spoolway,一个由极简命令行状态机驱动的描述式 agent 工作流构建器,用 YAML 流水线混合编码 agent 与 shell 命令、云端与本地模型,支持 claude、codex、pi 等提供方。调度器内部不含模型,每个决策都是计数器、时间戳或流水线文件中的位置;每任务独立 worktree 分支,spoolway stack 可在不调用 LLM 的情况下提交并开出堆叠式 GitHub pull request。

    推荐理由:调度器不含模型、按流水线文件做确定性调度,读者可以了解如何把多个编码 agent 组成可测量、可重复的任务流水线。

  18. GitHub · 灵魂体仓库70

    defibrillator:一个按需唤醒 Ollama 服务器的单文件反向代理

    tammert 在 GitHub 发布 defibrillator,一个用 Go stdlib 写的单文件反向代理,部署在客户端与闲置关机的 Ollama GPU 机器之间:有请求时发送 Wake-on-LAN 唤醒机器并转发(SSE 流式转发保持),超过 IDLE_TIMEOUT(默认 30m)无请求则通过 ssh 执行 systemctl poweroff 关机。并发请求共享同一次唤醒,全部配置走环境变量,另提供约 2 MB 的 Docker 镜像,仓库附 test.sh 覆盖 17 项断言的测试矩阵,MIT 许可。

    推荐理由:这是一个单文件无依赖的反向代理工具,读者可以按 README 直接配置环境变量,让闲置 GPU 机器通过 Wake-on-LAN 自动开关机。

  19. GitHub · 灵魂体仓库58

    fabiomn97 开源 sloan-brain:把 MIT Sloan 全部学习资料建成可检索问答的个人记忆库

    fabiomn97 开源了 sloan-brain 项目,将其在 MIT Sloan 的所有课件、阅读、案例、作业、笔记等私有资料建成一个可问答的个人知识库,部署在 www.brain.fabio.cool,用一次性邮件验证码登录,不依赖 MIT 账号,毕业后仍可使用。流程上由 Canvas 抓取脚本下载原始文件,转换为带 front matter 的 Markdown 语料存入 git,GitHub Actions 同步到 Cloudflare D1 全文索引并由 Worker 提供服务;提问时小模型扩展检索词,全文搜索定位段落,Llama 3.3 70B 生成带 [1]、[2] 引用的短答案,点击引用可查看原文并高亮。

    推荐理由:作者把个人知识库完整跑在 Cloudflare 免费额度上,仓库给出了架构、成本上限和重建流程,可直接迁移复用。

  20. GitHub · 去对齐工具与仓库59

    lmgrep 发布:基于 AI 嵌入的语义代码搜索工具

    Aetherall 在 GitHub 发布 lmgrep,一个用 AI 嵌入做语义代码搜索的命令行工具:用 Tree-sitter 按 AST 边界切分代码,支持 Ollama、OpenAI、Google 等任意 Vercel AI SDK 兼容的嵌入提供方,向量存于仓库 .git/lmgrep/ 下的本地 LanceDB。提供 ask 研究模式(本地模型搜索、阅读并给出带 [n]→file:line 引用的答案)、内置 MCP 服务器可接入 Claude Code、Cursor 等、文件监听增量重索引、基于 Hyperswarm 的 P2P 索引分享和跨项目搜索;每个嵌入模型各建一个索引,切换模型不需重建旧索引,需 Node.js 20+ 或使用打包的单文件可执行程序,采用 GPL-3.0 许可。

    推荐理由:原文详细说明了语义代码搜索工具的分块、索引与 ask 研究模式的实现方式,做法可直接复用到本地代码库。