跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,045 条精选近 30 天 2,038 条共收录 8,494 条

更新

精选归档 · 第 26 页

10月9日周五第 501–520 条
  1. GitHub · 去对齐工具与仓库55

    flam7791 开源 governed-ai-platform 参考部署

    flam7791 在 GitHub 发布 governed-ai-platform,把 LLM 网关、MCP 证据服务器和多智能体服务整合为一个可运维的容器化平台。所有模型调用经网关记录预算与策略,外部操作需人工在审批页确认,文档仅用本地嵌入模型索引,支持 Claude、Azure OpenAI、Ollama 及纯开源权重的 sovereign 模式,并提供 Prometheus 告警、Jaeger 全链路追踪、Kubernetes 清单和每次变更运行 8 项端到端冒烟测试的 CI。项目为 MIT 许可,自述适合团队试点而非高可用生产。

    推荐理由:原文给出了从原型到可运维服务的完整部署细节,包括网关策略、审批流、监控与 CI 验证,方法可直接迁移。

  2. GitHub · 去对齐工具与仓库57

    cue-kit v0.2.1 开源:把视频转成带时间戳转录和帧序列供 Claude 等大语言模型分析

    atlas-bear 发布 cue-kit alpha 版,一个把 URL 或本地视频转成抽帧加时间戳转录的 CLI 工具,让无法真正看视频的 LLM 能基于画面和音频内容作答。内置 Claude Code skill,/cue-kit <url> <question> 一行即可调用;summary 和 transcript 模式已可用,training-doc 与 lecture-notes 模式仍在搭建中。工具依赖 ffmpeg 和 yt-dlp,支持 macOS、Linux、Windows(Python 3.10+),转录优先用原生字幕,无字幕时回退到 Groq whisper-large-v3 或 OpenAI whisper-1,帧画面不上传,敏感素材可用 --no-whisper 保证音频不出本机。

    推荐理由:原文完整给出了帧预算、转录回退和安装配置细节,读者可以直接评估这个视频转结构化文本工具是否适合接入 Claude Code。

  3. GitHub · 去对齐工具与仓库67

    offrig 开源:让 Agent 在预算内租 RunPod GPU 跑大模型且保证不占用本地 GPU

    MCP Tool Shop 发布开源工具 offrig,提供桌面应用、CLI 和 MCP side-car,让大模型只在租用的 RunPod GPU 上运行,绝不占用本地 GPU,并通过七项守卫检查验证这一点。side-car 可让 Agent 在人设预算内规划付费会话、租 GPU、执行带依赖的交接队列,队列排空或到达截止时间时看门狗会终止 pod。实测中 4×RTX PRO 6000 以 SGLang 服务 Qwen3-Coder-480B(4-bit AWQ)约 22 分钟就绪,花费 $3.59,480B 在 512 个并发 Agent 下达 4,059 tok/s;该项目以 MIT 许可开源,仓库地址 https://github.com/mcp-tool-shop-org/offrig。

    推荐理由:原文给出实跑花费、并发吞吐数据和七项防落地检查的具体规则,读者可以照着评估这个租 GPU 跑大模型的方案能否迁移到自己的工作流。

  4. GitHub · 灵魂体仓库68

    Portage 开源:自托管模型网关让 Claude Code 和 Codex CLI 换用 GLM、DeepSeek 等任意模型

    开发者 SimonGino 发布开源项目 Portage,一个自托管模型网关,把官方 API、OpenAI 兼容中转和本地 Ollama / vLLM 等模型统一到一个地址,让 Claude Code 和 Codex CLI 通过一行配置即可切换模型。项目核心是在 Anthropic Messages、OpenAI Responses 和 Chat Completions 三种协议之间做翻译,协议相同时字节直通,流式 SSE 和工具调用在所有路径可用;还自带凭据池故障切换、sk-ptg- 密钥管理、逐调用用量记录和管理控制台。

    推荐理由:自托管网关用协议翻译让 Claude Code 和 Codex CLI 直接换用 GLM、DeepSeek 或本地 Ollama 模型,配置示例和部署流程都写得很具体。

  5. GitHub · 去对齐工具与仓库58

    piBot 开源框架:在树莓派上 24/7 运行自主个人 AI 助手

    manivt 在 GitHub 发布 piBot,一个把树莓派(最低 1 GB 内存,测试于 Pi 3B+)变成全天候自主 AI 助手的框架,通过 Telegram 交互。本地 ZeroClaw 守护进程仅占约 50 MB RAM,负责聊天通道、本地工具和 SQLite 持久记忆,推理则经 agy-shim 桥接调用 Google Antigravity CLI(agy)的 Gemini 3.8 Flash 等模型,免费 Google 账号即可在每周配额内使用,无入站开放端口。

    推荐理由:这个开源项目不止给出部署步骤,还写清了安全模型、数据流向 Google 的风险和每条消息约 15-20k token 的用量,可作自托管智能体的参考。

  6. GitHub · 灵魂体仓库76

    no_human 开源 AI 编码工厂:计划、对抗审查与防篡改门禁

    no-human-ai/no_human 在 GitHub 开源,是一款带计划、对抗审查、防篡改守卫和复现门禁的 AI 编码流水线工具,附 CLI、看板、GitHub Action 和 MCP server。独立评审模型从不接触编码会话记录,只输出引用文件与行号的 pass/fail 清单。作者称在其自身看板上运行 65 天,1709 次被标记完成的尝试中有 505 次被第二模型驳回,44 次因删除或削弱测试在审查前被拦截,46 次修复证明因测试在旧代码上也能通过被拒。支持 Jira、Linear、monday.com 票据接入,MIT 协议,需 Python 3.12+。

    推荐理由:原文给出 65 天 1709 次尝试中被驳回 505 次的门禁数据,可以看清这套对抗式审查机制的实际拦截规模。

  7. GitHub · 灵魂体仓库66

    AgentMandate 发布:面向智能体系统的设计期权限分析工具

    作者发布 AgentMandate,一个针对智能体系统的设计期权限分析器,通过 manifest 建模智能体被授权的有限工作单元(mandate),在 CI 中分析多条各自被允许的工具调用能否组合成越权路径,并比较版本间有效权限是否扩大。示例中一个只读 search_cases 工具让原本每案 500 英镑的退款上限形同虚设,四条合法调用合计可达 1000 英镑;mandate diff 判定为 WIDENING。工具提供 scan、drift、lint、reach、diff、verify 等命令,可从智能体源码或 MCP 目录生成 manifest 骨架,支持 SARIF 输出与 GitHub Actions 接入,明确不做运行时拦截、数据流可达性或模型行为预测。

    推荐理由:展示了用只读工具叠加突破每案退款上限的具体反例,说明了配置 diff 看不出权限扩大的原因和 CI 接入方式。

  8. GitHub · 灵魂体仓库62

    star-cli 开源:TypeScript 编写的多模型 AI Agent 命令行工具

    cryer 在 GitHub 发布 TypeScript 编写的 AI Agent 命令行工具 star-cli,支持 OpenAI、Anthropic 及 OpenAI 兼容多模型接入、流式终端 UI、工具调用、权限控制、会话持久化、git 集成、计划模式和长期记忆等。作者给出的 Terminal-Bench 2.0 抽样 20 任务对比中,Star CLI 0.3.9 用 Kimi K3 通过 17/20(85%),terminus-2 2.0.0 同模型通过 9/20(45%)。

    推荐理由:README 对权限门、快照回滚和缓存细节写得具体,并附了与 terminus-2 同模型下的 Terminal-Bench 对比数据,方法可复现。

  9. GitHub · 灵魂体仓库59

    zyx4303 开源 AutoRAG:带引用校验与拒答兜底的 RAG 后端项目

    作者在 GitHub 发布 AutoRAG 项目,实现文档切分入库、向量加 BM25 混合检索、带 [n] 引用来源的回答,服务端校验引用编号越界,检索无依据时不调用大模型直接拒答。技术栈为 FastAPI、Chroma、本地 BGE 向量、自研 BM25 与 Docker,另含 FreshGuard 知识库变更影响分析和 LangGraph Agent 工具调用模块。作者如实记录了 9 条查询中第 1 名命中 7/9 的实测结果及两个未解决的失败样例,说明这是单机小样本验证而非性能基准。

    推荐理由:作者完整公开了带引用校验与拒答兜底的 RAG 后端实现,三轮召回缺陷修复和未解决样例都如实记录,方法可迁移。

  10. GitHub · 去对齐工具与仓库57

    开源工具 shade 发布:让LLM提示词中的敏感值可逆脱敏

    GitHub 开源工具 shade 在客户端与 LLM 之间做可逆脱敏:anon 将密码、卡号、手机号等替换为 <SECRET_1> 这类稳定占位符,deanon 再把真实值还原到模型回答中,原值以 AES-256-GCM 加密存于本地 SQLite,不离开机器。内置 46 条规则(默认 37 条启用),支持 gitleaks 规则导入、fail_closed/fail_open_log 策略与项目级隔离;核心引擎与 CLI 已完成,Hook、MCP、代理适配器尚未实现,MIT 协议,需 Go 1.27.1+ 从源码构建。

    推荐理由:可逆脱敏工具shade把提示词中的密钥替换为稳定占位符,值加密存本地,读者可了解其规则引擎与安全模型设计。

  11. GitHub · 去对齐工具与仓库66

    NoireBox 发布 AI Agent 防篡改审计日志工具

    法国独立开发者发布开源工具 NoireBox(MIT 协议),用 SHA-256 哈希链加 Ed25519 签名日志为 AI Agent 决策提供防篡改记录,支持 RFC 3161 时间戳锚定、OpenTimestamps/Bitcoin 见证和可离线验证的审计导出。工具面向欧洲 GDPR 与 EU AI Act 合规场景,内置约 250 KB 的法英双语注入检测模型和可插拔 guardrail,提供 REST API、Python SDK 与 MCP 四个工具,并附 253 项测试与 qwen2.5:0.5b 本地实测,显示注入台词在调用前被移除且日志封存为 incident 事件。

    推荐理由:原文把防篡改日志、RFC 3161 时间戳锚定与离线验证器讲清了实现方式,并给出真实 LLM 注入场景的实测对照,方法可迁移到自有 Agent 管线。

  12. GitHub · 灵魂体仓库65

    Glad Labs 开源本地内容生成引擎 Poindexter,从选题到发布一条流水线跑完

    Glad Labs 开源了 Poindexter,一个在本地 GPU 上运行的 AI 内容生产引擎,覆盖选题发现、网络调研、长文写作、多模型对抗式 QA 审查和静态发布,全部通过 Ollama 本地推理,零 API 费用,默认调用 gemma3:27b 写作、phi4:14b 做评审。该项目即 gladlabs.io 背后的生产系统,已发布 210+ 篇文章、累计 2000+ 次流水线运行,约一半草稿会被 17 条 QA 规则拒掉;引擎以 Apache 2.0 许可发布,要求 Docker、Python 3.13、约 50 GB 磁盘,官方建议 NVIDIA GPU,可选付费 Pro 仅提供操作控制台和每周更新的生产配置。

    推荐理由:这是一个可直接跑在本机 GPU 上的开源内容流水线,README 给出了完整模型分工、QA 驳回率数据和部署步骤,可作本地多智能体系统的参考实现。

  13. GitHub · 灵魂体仓库61

    Tao20060602 开源 llm-gpu-kernels:RTX 3080 单GPU上的 MoE grouped GEMM 与 GQA attention 算子项目

    作者开源了独立于 NanoKV 的 LLM GPU 算子项目 llm-gpu-kernels,包含 BF16 MoE grouped GEMM 局部融合与四段KV GQA prefill attention,硬件为 RTX 3080 Laptop 16 GiB(SM86)。attention 短query冻结选择在合成验证矩阵中相对完整 FA2 链路 Graph 耗时几何平均减少 22.09%,最坏慢 2.17%;M24 对 W4A16 packed gate/up 的布局机制对照中六个固定 case 相对同量化 vLLM 低 21.17%。项目按 M0–M24 分阶段报告,记录了失败实验、适用形状边界与回退策略,作者明确说明为单 GPU 原型,不构成 expert-parallel 或 serving 经验。

    推荐理由:作者用逐阶段报告和固定输入复测记录了 MoE 与 attention 算子在 RTX 3080 上的实测收益和明确边界,可迁移到类似单GPU原型工作。

  14. GitHub · 去对齐工具与仓库71

    KKKKhazix 开源 AIHOT 行业热点站框架

    作者数字生命卡兹克开源了 AIHOT 的引擎与框架,即一个每天自动抓取信源、用大模型打分筛选、聚簇事件并按热度生成中文日报的网站。仓库公开了全部提示词原文与入选门槛,含信源分级、独立两次打分、48 小时事件热度算法、日报周报月报,以及 MCP、RSS 和公开 API 等面向 Agent 的出口;附 18 个海外 AI 资讯示范源,需 Node.js 24 和 OpenAI 兼容 API Key,代码采用 MIT 许可证,AIHOT 名称与 Logo 除外。

    推荐理由:作者把线上热点站的引擎开源,提示词、入选门槛和热度算法全部公开,读者可以照着改成自己行业的日报站。

  15. GitHub · 灵魂体仓库58

    开源工具 pii-mask 发布:在文本送入云端LLM前本地脱敏个人信息

    GitHub 用户 dewil 发布开源工具 pii-mask,一个在文本发送到云端大语言模型前对姓名、电话、email、护照等个人敏感信息(PII)进行本地脱敏、并在模型返回后还原原文的网关,主打俄语场景与俄罗斯个人数据格式(ИНН、ОГРН、СНИЛС 等)。识别采用三层结构:正则加校验位、基于 Natasha 的离线 NER(按词形归一保持标签一致)、可选的 Ollama LLM 审计第二遍(默认模型 qwen3:1.7b)。服务无状态、fail-closed,映射文件 mapping. 权限 600 并写入 .gitignore。

    推荐理由:作者详述了正则加NER加LLM审计的三层识别设计与152-ФЗ合规边界,方法思路可迁移到其他语言的文本脱敏场景。

  16. GitHub · 去对齐工具与仓库55

    Sightline 开源:用图数据库和 Agent 分析 AWS 账户安全可达性与权限

    作者开源了 Sightline,一个连接 AWS 只读角色的安全分析项目,通过 scanner 采集资源写入 Postgres 和 Neo4j 图投影,再用 Agent 回答如哪些资源可达生产数据库、谁实际是管理员等问题。系统内置含陷阱的 mock AWS 账户(如 PubliclyAccessible 为 true 但安全组不开端口的数据库),可零凭证运行;所有安全判定由确定性代码计算而非模型给出,Agent 回答中的资源标识符会与工具返回值校验,IAM 角色持显式 Deny 保证只读,并配 15 条 ground-truth 与 21 条 live agent 两级评测。

    推荐理由:这个 AWS 安全分析项目把安全判定全部放在确定性代码里,模型只负责提问与解释,思路对做 Agent 工具边界设计有直接参考。

  17. GitHub · 去对齐工具与仓库59

    SpectraLLM 开源:PDF 文档一键微调出本地领域模型

    GitHub 项目 devdownin/SpectraLLM 发布,宣称在单一应用内将 PDF、DOCX 等文档经混合检索问答后微调为本地模型,100% 本地运行、无云端 API。流程包括摄入、问答(关键词+向量混合搜索、reranking、ReAct 多跳推理)、QLoRA/DPO 微调和单文件 GGUF 导出,可配合 llama.cpp、Ollama 等运行。默认模型下载约 4.8 GB,需 Docker Engine 25+ 与 16 GB 内存,GPU 可选,AGPL-3.0 协议。

    推荐理由:把文档摄入、混合 RAG、QLoRA 微调和 GGUF 导出整合成一个本地 Docker 项目,对想私有化部署知识库的人有可参考的完整流程。

  18. GitHub · 去对齐工具与仓库58

    OpenTeam 开源自托管 AI 智能体平台:多机器人共用工作区并支持定时任务

    OpenTeam 是一个开源(GPL v3.0)的自托管 AI 智能体平台,让多个 bot 在用户自己的硬件上持续工作,可浏览网页、使用 Linux 桌面和操作文件。每个 bot 保留对话、Markdown 记忆和浏览器登录状态,支持群聊协作、子代理委派、按计划或事件运行的 routines,并可接入 Gmail、GitHub、Slack、Notion 等插件或自定义 MCP 服务器。

    推荐理由:原文完整说明了自托管多智能体方案的部署要求与功能边界,读者可据此判断是否适合在自家硬件上运行。

  19. GitHub · 去对齐工具与仓库61

    Symphony for Trello 发布:让 Codex CLI 按 Trello 卡片自动接活

    martin-francois 开源了 Symphony for Trello,一个改编自 OpenAI Symphony(原用 Linear)的独立编排工具,让 Codex CLI 以 app-server 模式从 Trello 卡片自动领取任务。卡片移入 Ready for Codex 后,Symphony 轮询看板、为每张卡创建本地工作区、运行 Codex 并维护一条 ## Codex Workpad 评论,完成后将卡片移到 Human Review 或 Blocked。

    推荐理由:把 OpenAI Symphony 的编排思路映射到 Trello 看板,README 讲清了列表路由、工作区隔离和用法限制,方法可直接迁移。

  20. GitHub · 灵魂体仓库65

    trajectory-sft-agents 仓库发布 Qwen2.5-1.5B 与 Qwen3-1.7B 的轨迹SFT与GRPO后训练流程

    独立研究仓库 trajectory-sft-agents 发布在消费级单卡上运行的小模型Agent后训练项目。基于 Qwen2.5-1.5B-Instruct 的 ALFWorld 实验,用600条环境执行验证的专家轨迹做 LoRA SFT,再经在线GRPO,完整任务成功率由 Base 6.25% 提升至 SFT 68.75%、SFT+GRPO 77.08%。另一组 BFCL 实验将 Qwen3-1.7B 的多轮工具任务测试成功率从 2.5% 提升至 32.5%,单张RTX 5090训练约70分钟。仓库公开训练配置、专家轨迹、LoRA权重与逐题rollout,附CPU可运行的证据核验脚本;作者说明这是域内训练与内部留出评测结果,域外小样本评测未观察到明显退化但也不构成通用能力提升的证明。

    推荐理由:作者给出完整训练链路、逐题成绩和可复现证据,读者可以在消费级单卡上照此复现小模型Agent后训练。