跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,050 条精选近 30 天 2,043 条共收录 8,516 条

更新

精选归档 · 第 33 页

10月9日周五第 641–660 条
  1. GitHub · 灵魂体仓库70

    EvalShift 开源 LLM 迁移与回归测试工具链:CLI、SDK 与 GitHub Action

    EvalShift 开源了一套面向 AI 智能体的 LLM 迁移与回归测试工具链,CLI 已发布在 PyPI(evalshift),配套采集 SDK evalshift-sdk、GitHub Action(evalshift/evalshift-action@v0)和可选托管服务 api.evalshift.dev。SDK 记录生产环境中智能体的模型调用、工具调用与最终输出并生成黄金测试集,CLI 在新旧两个模型上重放同一测试集,用结构化、语义、LLM-as-judge 和工具调用评分器打分,输出含配对检验、Cohen's d、95% CI 和 Benjamini-Hochberg 校正的单文件 HTML 报告;GitHub Action 可在 PR 上跑评测并按 migration_policy 门禁合并。

    推荐理由:原文完整说明了从生产流量采集到回归测试再到 PR 门禁的工具链设计,以及统计方法和隐私边界,方法可直接迁移。

  2. GitHub · 灵魂体仓库64

    Rayleigh 本地优先个人 AI 知识助手开源,MVP 全部 12 步完成

    GitHub 用户 zaaramedamin 开源了 Rayleigh,一个本地优先、隐私优先的个人 AI 知识助手,全部计算在本机运行,不向云端 API 发送文档或查询文本。项目基于 Python、FastAPI、Qdrant(本地)、sentence-transformers 和 Ollama(默认模型 qwen3.5:4b),已完成 MVP 路线图全部 12 步,支持文件摄取、分块溯源、语义与关键词混合搜索、带引用的回答、摘要对比抽取、语音输入(本地 Whisper)和受控 Agent 工具。内置 37 题评测集显示 24/26 可答题正确且引用有效、10/10 不可答题正确拒答,offline-check 命令阻断全部非本地网络运行全流程并报告被拦截的出站连接数。

    推荐理由:项目给出完整的本地化实现细节和内置评测结果,还有阻断网络的离线验证方法,对想自建本地 RAG 助手的人有参考价值。

  3. GitHub · 灵魂体仓库71

    CapyCTL 0.1.2 发布:在自有 GPU 上停放、唤醒和切换模型

    edurdias 发布 CapyCTL 0.1.2,一个在自有 GPU 上管理 vLLM、SGLang 和 TensorFold 推理引擎的部署工具,通过停放空闲模型释放显存、按请求唤醒切换,并在所有机器前提供统一的 OpenAI 兼容端点(/v1/chat/completions,支持流式与工具调用)。当前仅支持每模型单 GPU、Linux x86-64/ARM64 与 NVIDIA 卡,多 GPU 张量并行推迟到 0.1.2 之后;引擎仅监听 loopback,主机经 gRPC 双向 TLS 通信。项目以 Apache-2.0 许可,安装器为各架构单一自包含二进制并校验 SHA256SUMS。

    推荐理由:原文详述了在有限显存下停放、唤醒和切换模型的机制与硬性限制,为自建 vLLM 和 SGLang 推理服务提供了可复用的部署思路。

  4. GitHub · 去对齐工具与仓库60

    prompt-router:用 Cloudflare Worker 按提示词内容自动路由到不同上游模型

    asazhin-dev 开源了 prompt-router,一个 Cloudflare Worker,会对每个进入的 LLM 提示词分类后经 AI Gateway Dynamic Routes 路由到不同上游模型:编码类走 Anthropic claude-sonnet-4-5-20250929,其余走 Workers AI 上的 @cf/moonshotai/kimi-k2-instruct,分类器默认用 Llama 4 Scout。

    推荐理由:原文提供了从网关配置、部署到分类延迟基准测试的完整步骤,读者可以照着搭起一套按提示词路由模型的方案。

  5. GitHub · 灵魂体仓库55

    ssheleg 发布开源 Agent 技能 seo-aeo-audit,做带证据的搜索与答案引擎可见性审计

    作者 ssheleg 在 GitHub 开源了 Agent 技能 seo-aeo-audit,审计网站在 Google、Bing、Yandex 及 ChatGPT、Perplexity 等 AI 答案引擎中的可见性,每条发现附证据和日期,输出按优先级排序的整改计划。技能含 25 份参考契约、约 6,100 行参考资料和 7 个仅用标准库的 Python 脚本,覆盖索引、规范化、AEO 抽取、实体一致性等 10 个审计轨道,并内置拒绝 33 种流传伪策略的 myth guard;可通过 npx skills add 安装到 Claude Code 等 70+ Agent。

    推荐理由:这个开源审计技能用证据分级和七条脚本把 SEO/AEO 审计做成可验证诊断,方法论和工程约束都写得可复用。

  6. GitHub · 去对齐工具与仓库58

    llm-budget-guard 开源:为 OpenAI 与 Anthropic 调用加每日花费限额和重试循环检测

    BiztechEG 在 GitHub 发布 llm-budget-guard,通过包装官方 SDK 客户端,按响应实际 token 用量计价,执行按用户、按功能和每日总额的美元限额,并检测短时间重复发送的同一请求。支持流式与异步,限额每日 UTC 零点重置,价格表可通过 pricing. 运行时修改,尚未跟踪 batches、embeddings、images 和 audio,计费总数存于内存,可自实现 Storage 接口跨服务器共享,MIT 许可。

    推荐理由:原文给出完整用法、限额行为和未覆盖范围,读者可以直接评估这个成本守护库是否适合自己的部署。

  7. GitHub · 灵魂体仓库67

    claude-risk-guardrails:为 Claude Code 发布 25 条模型风险管理护栏

    scaso01 在 GitHub 发布 claude-risk-guardrails,为 Claude Code 提供 25 条护栏,分成六个可独立安装的包,每条在会话内校验智能体的声明、对不可逆动作要求人工签核并留下可审查记录。项目将 SR 26-2(美联储、OCC 与 FDIC,2026 年 4 月 17 日)与 NIST AI RMF 1.0 及 NIST AI 600-1 的原则类比套用,明确声明不构成合规认证;签核通过一次性代码(如 approve G-4821)完成,默认有效期 15 分钟,且模型无法批准自己的动作。作者用 replay.py 统计各护栏的历史触发率来排序,live 运行发现并修复了六个单元测试漏掉的真实绕过,全部 25 条截图见 docs/CONTROLS.md,MIT 许可。

    推荐理由:项目借鉴银行模型风险管理框架为 Claude Code 设计 25 条护栏,并用真实会话演示与回归测试给出可用性证据。

  8. GitHub · 去对齐工具与仓库57

    GERARDOBR01 发布门店销售楼层手册问答助手 Asistente-de-piso

    Liverpool 视觉陈列员 GERARDOBR01 在 GitHub 发布单页应用 Asistente-de-piso,供门店楼层员工用手机查询陈列与装配手册,回答时引用手册具体页码、声明置信度并在无证据时回答不知道。无 API key 时用本地 BM25 检索完全离线运行,实测 186 道真实楼层问题首三命中 166(89%)、手写错字下仅 6 题无答案;带 key 模式对 30 本真实手册的 118 道无答案问题答「不在此手册」117 次,并内置拍照核查陈列的工具,全程测量色彩、排面、三角陈列与高度。

    推荐理由:作者以大量实测数据展示了一个离线可用的门店陈列问答工具如何防数字幻觉,方法可迁移到同类检索场景。

  9. GitHub · 灵魂体仓库58

    Context Foundry:Rust 编写的本地确定性上下文引擎公开仓库

    dwbimstr 在 GitHub 公开 Context Foundry,一个用 Rust 编写的本地确定性上下文引擎,为编码 agent 按名称返回定义、同名目录或使用位置,并以精确 token 预算交付带引用的源码,通过 MCP 和 CLI 提供。核心检索无需模型、GPU、网络或密钥,支持 tree-sitter 的 23 种语言,目前处于 pre-release 状态。作者给出的实测中,脚本化 agent 在 rust-lang/rust 1.99.0 上 D1 Pass@1 从 89.1% 提升到 97.8%,中位通过 token 从 806 降到 234;macOS arm64 支持最完整,Windows 未构建,暂无正式发布版本。

    推荐理由:这个 Rust 写的确定性上下文引擎给出了在 rust-lang/rust 和 Bun 仓库上的实测 Pass@1 与 token 消耗数据,可供评估编码 agent 检索方案时参考。

  10. GitHub · 灵魂体仓库57

    Codify 开源:本地优先的多智能体编码助手

    GitHub 项目 GeneticxCln/Codify 发布,一个本地优先的多智能体编码助手:将自然语言请求转为计划,经用户批准后由 librarian、planner、fixer、verifier、critic、scribe 等角色逐步执行,每步仅在沙箱内运行允许列表中的命令并只提交自己写入的文件。引擎绑定 127.0.0.1 并使用 boot token,计划模式下的写入限制由引擎层强制而非 UI;内置 Anthropic、OpenAI、Google、DeepSeek、OpenRouter、Groq、NVIDIA、Ollama 八个提供方的实时模型发现,提供 19 个主题、语音输入朗读、嵌入式浏览器、bwrap 沙箱机器终端和分割面板,面向 Linux 桌面,MIT 许可。

    推荐理由:项目把规划审批、沙箱执行和验证提交的完整流程写成了可查阅的规范,读者可以了解多智能体编码助手的工程约束如何落地。

  11. GitHub · 灵魂体仓库73

    llm-assay:面向 OpenAI 兼容端点的真实上下文深度基准测试工具

    alexeytz 发布了 llm-assay,一个针对 vLLM、SGLang 或 llama.cpp 等 OpenAI 兼容端点的基准工具,可测量不同上下文深度下的 prompt processing 与 decode 速度,支持置信区间、配对 A/B 显著性检验和 prefix-cache 陷阱检测。工具由 llama-benchy 分支重构而来,包含 compare 显著性比较、tune 端点自动检测和 probe 长上下文质量探针三个子命令;probe 通过生成合成事件日志并注入已知异常来检验模型长上下文理解,相关发现记录在 docs/fabrication-programme/fabrication-findings.md。

    推荐理由:原文详细说明了 prefix cache 陷阱、统计方法和长上下文质量探针的设计思路,对自建推理基准有直接参考价值。

  12. GitHub · 灵魂体仓库58

    SkillRC 开源:审计 Agent 经验记忆收益来自技能内容还是执行器栈

    圣母大学 Yiwen Lu 发布 SkillRC,一个受控实验框架,用于审计 Agent harness 注入冻结 LLM 执行器的经验记忆收益。在 ALFWorld 134 个未见任务上,GPT-4o-mini 记忆增益 +0.127,Qwen3-8B 为 -0.021,跨栈 transport gap 为 -0.148;顺序安慰剂复现了执行器反转,表明主要效果源于各栈对附加上下文的响应而非技能内容本身。仓库含 YAML 配置的六控制面、安慰剂构建脚本与预印本论文。

    推荐理由:论文用安慰剂对照和跨执行器配对设计拆解经验记忆的收益来源,方法可迁移到自己的 Agent 记忆审计中。

  13. GitHub · 灵魂体仓库65

    navikt 开源 mlx-workspace:在 Apple Silicon 上本地跑 LLM 并实测编码能力

    navikt 发布 mlx-workspace 仓库,用 MLX 在 Apple Silicon Mac 上本地运行 LLM,通过 mlx_lm.server 提供 OpenAI 兼容接口,供 opencode、aider 和 Copilot CLI 调用,用于回答 nav-pilot alpha 的一个问题:哪个本地模型足以承接原本消耗 Copilot 付费请求的常规编码操作。默认模型为 Qwen3.6-35B-A3B OptiQ 4bit(多文件机械性编辑 35/35 验证通过),Qwen3.8-27B 两个量化版本作为 opt-in 提供;仓库还包含基准脚本、VRAM wired limit 调节和上下文压缩配置,nav-pilot 通过 manifest/models. 拉取模型清单。

    推荐理由:原文给出可复现的本地 MLX 基准与选型证据,读者可以照着判断哪个本地模型能接住常规编码操作。

  14. GitHub · 去对齐工具与仓库57

    Yi:单个 Rust 二进制的编码 Agent 开放仓库

    作者发布 Yi,一个用 Rust 写成单一二进制的编码 Agent,模型在持久 Python 内核中工作,子代理以函数调用方式委派,计划以代码形式声明为 todo 图。权限通过 wall 和 lease 逐层收窄,上下文按字节预算裁切并保留前缀一致以命中 prompt cache,会话以 JSONL 日志持久化,配置文件为 ~/.yi/config.,采用 MIT 许可证。

    推荐理由:README 以原语组合的方式讲清了子代理、计划、权限和上下文预算的实现思路,对想搭 Agent 工具链的开发者有可借鉴的架构参考。

  15. GitHub · 去对齐工具与仓库59

    Urfael 开源发布:本机运行的个人 AI 助手,驱动本地 Claude Code CLI

    开源项目 Urfael 发布,这是一个在用户自己机器上运行的个人 AI 助手,通过已登录的 Claude Code CLI 作为默认模型后端,提供本地语音(whisper.cpp 转写、espeak-ng 或 macOS say 朗读)、桌面控制台、TUI、可选 Web 仪表盘和 OpenAI 兼容 API。记忆基于 Obsidian vault 和本地 git 仓库,用 BM25 搜索与可选本地嵌入实现跨会话检索;urfael code 提供按项目上下文和工作树检查点,urfael rewind 可恢复。

    推荐理由:原文详细列出了安全边界、已测与未测范围和成本结构,读者可据此评估这个本地个人 AI 助手是否适合自己部署。

  16. GitHub · 灵魂体仓库61

    ComfyUI-LLMClient 发布:让 ComfyUI 接入任意 OpenAI 兼容 LLM API

    Vex131 发布 ComfyUI-LLMClient,为 ComfyUI 提供可连接任意 OpenAI 兼容 API(llama.cpp、vLLM、OpenAI 等)的 LLM 节点,支持提示词生成与增强、图像打标与分析,输出可接入工作流中任意字符串接口。节点含 LLM Provider、LLM Chat、采样配置与 vRAM 卸载管理,无新增依赖,API key 明文存储在工作流 JSON 中需注意安全。

    推荐理由:这套 ComfyUI 节点支持任意 OpenAI 兼容后端,流式输出、视觉图与显存卸载细节对搭建本地工作流有直接参考价值。

  17. GitHub · 灵魂体仓库65

    ekbandroid 发布 llm-api-client:支持多提供商的 LLM 对话与实验客户端

    作者开源了 llm-api-client,一个通过 OpenAI 兼容 API 与大语言模型对话的客户端,提供控制台和流式 Web 界面,支持 OpenAI、DeepSeek、OpenRouter、Ollama 和 LM Studio。工具内置多组可复用实验:compare.py 对比有无格式与长度限制的输出,reasoning.py 用直答、分步、模型自写提示词和专家组四种方式解题并统计正确率,temperature.py 在 0、0.7、1.2 三档温度下多次采样测准确率与多样性,benchmark.py 按每秒 token 数和费用对比模型与 thinking 配置,实测三种配置成本相差 4.4 倍。

    推荐理由:作者用实测数据对比上下文管理策略与温度设置的成本效果,方法可直接迁移到自己的对话应用。

  18. GitHub · 去对齐工具与仓库75

    kendrick/skills 发布 15 个可独立安装的 Agent 技能合集

    GitHub 仓库 kendrick/skills 提供了 15 个可单独或整体安装的 Agent 技能,每个技能是自带指南的独立目录、无依赖,需 Node 22.20+,通过 npx skills add kendrick/skills 安装。

    推荐理由:这是一套可单独安装的 Agent 技能合集,覆盖会议整理、issue 撰写、并行子代理和突变测试等编码工作流。

  19. GitHub · 去对齐工具与仓库56

    HammerMei 开源 agent-senses:为 LLM Agent 提供看、听、读等感知技能的 CLI 工具集

    HammerMei 在 GitHub 发布 agent-senses,为 LLM Agent 提供一组感知技能 CLI 封装,让没有原生多模态能力的 Agent 把感知任务委托给后端模型。目前 see(分析图像和 PDF)和 watch(抓取 YouTube 字幕、元数据和关键帧)可用,listen 和 read 规划中;每个技能返回带统一 error 约定的结构化 JSON,默认通过 Codex CLI 调用现有 OpenAI 订阅而非 API 计费,后端可用环境变量替换,依赖 yt-dlp 和 ffmpeg。

    推荐理由:原文给出了各技能的具体命令、依赖和 JSON 输出结构,便于判断如何让无多模态能力的 Agent 复用感知任务。

  20. GitHub · 去对齐工具与仓库57

    mtg-deck-advisor:用 Claude 构建 Commander 卡组合规组牌 Agent 并开源

    Bacchetto 开源了 mtg-deck-advisor,一个从玩家自有卡牌构建合规 Magic: The Gathering Commander 卡组并带引用回答规则问题的 AI Agent,支持 CLI、HTTP API 和 MCP 三种方式。Agent(Claude Sonnet 5.5)只提案,合规校验、审批和导出由确定性代码完成;规则答案仅在当次运行检索到所引规则时才展示。评测显示检索 recall@10 从 0.63 提升到 0.72,卡组合规率 100%,每副卡组成本 $0.120,比 Haiku 4.5 更便宜且质量更高。

    推荐理由:项目用实测数据支撑工程决策,检索调优前后、不同模型的成本与质量对比都可复核,是一份可借鉴的生产级 AI 工程范例。