内容形态
开源仓库与工具：人格工程、记忆系统、去对齐脚本、推理与微调工具链。
2,050 条精选近 30 天 2,043 条共收录 8,516 条
biffsocko 在 GitHub 发布 PRM v1.0.0，一个形似 IRC、面向 LLM 机器人的高速加密聊天中继，支持密码与 token 认证、多租户、ACL 频道与 TUI 客户端。核心是把消息过滤下沉到服务端，机器人通过带 HMAC 签名、防抖、冷却与预算上限的 webhook 订阅，只收到预筛选并附带上下文的消息；文中举例一个每天处理 5 万条频道消息、只需回应约 200 条的机器人，LLM token 消耗可降低约两个数量级。实测单节点亚毫秒 p50 扇出，支持 HTTP / AMQP / MQTT 投递与 Splunk、Graylog、Datadog、GitHub 等入站集成。
推荐理由：原文给出了针对 LLM 机器人的服务端过滤订阅机制与实测延迟数据，读者可评估是否省去自建 bot 过滤层。
开源工具 freellmpool（MIT 协议）最新版本为 0.13.0，它将23个 LLM 供应商编目为分组，暴露178条启用聊天路由和443个已编目模型，并把这些可访问的启用路由自动池化为一个 OpenAI 兼容端点，可在无密钥路由可用时无需任何 API 密钥启动。工具支持 CLI、Python 库和本地代理三种形态，提供速率限制故障转移、按日用量追踪、MCP 服务器，以及面向 Claude Code、Codex、aider、Cline、Cursor 等编码代理的 OpenAI 与实验性 Anthropic 兼容路径；Pollinations、OVHcloud、Kilo Gateway 无需密钥即可使用，30秒快速启动实测约19秒。
推荐理由：原文给出23个免费LLM供应商的路由、故障转移和免密钥启动细节，读者可以照着把它接进 Claude Code 等工具。
Krako-Labs 发布开源 CLI 工具 KORA Doctor（Apache-2.0），通过审计 AUDR v1.0.0 JSON/JSONL 追踪，识别 Agent 运行中的工具重复调用、上下文放大、本可确定化的验证工作、重复推理、编排开销和小模型候选等浪费。工具无运行时依赖、无托管服务，示例合成 trace 显示 5 次模型调用中约 20% 成本潜在可省；各候选采用可检查的固定节省比例且不叠加，可选 OTel sidecar 与哈希指纹增强证据，估计值为场景估算而非实测账单。
推荐理由：开源 CLI 直接分析 AUDR 追踪找 Agent 执行浪费，各候选的节省假设和置信边界写得清楚，方法可迁移到自己的 trace 审计。
GitHub 仓库 apis-gratis-es 发布面向西语社区的免费 API 目录，覆盖免密钥 API、LLM 免费额度与本地模型，最近一次核查为 2026-09-19。23 个免密钥 API 均经真实调用验证并测量 CORS，CI 每周复验；LLM 部分记录 OpenRouter 22 个 :free 模型、Groq 免费档 30 RPM 等额度，并列出 Groq、OpenRouter、SambaNova 等已取消免费额度的变化，另收录 self-host 聚合器 FreeLLMAPI 与 Ollama 本地模型方案。
推荐理由：这份西班牙语免费 API 目录给出了逐项核查标记、验证方法和LLM免费额度现状，读者可以直接复用其核对思路来筛掉已失效的额度信息。
GitHub 开源项目 DataPilot 发布，用自然语言完成数据的查询、增删改、Excel 导入导出、一致性检查和 PDF 报表生成，采用手写 Agent Loop 替代 Workflow，默认接入 DeepSeek。项目提供 Vue 3 三栏 WebUI 和 SSE 流式可视化，内置三层确认机制、软删除恢复和审计日志；评测显示底层 34/34、Agent 层 15/15 用例通过。已知限制包括不支持跨表 JOIN、无权限控制和 RAG。
推荐理由：原文完整给出了架构分层、确认机制和评测结果，读者可以借鉴其用自然语言驱动数据库操作与报表生成的工程做法。
tokenhop 在 GitHub 发布，是自托管的 AI 路由网关，提供 OpenAI 兼容端点 /v1/*，聚合 40+ 上游提供商，支持格式转换、模型组合 fallback、多账号轮换、OAuth 凭证管理和用量追踪，附 Next.js 仪表盘。项目由 9Router 按 MIT 协议 fork 而来，旧版数据、密钥和工具配置可直接迁移；提供 Docker 快速启动，镜像发布到 GHCR，文档见 https://tokenhop.dev 。
推荐理由：自托管 AI 网关把 40 多家上游收敛成一个 OpenAI 兼容端点，配置细节写得具体，部署和故障排查都能直接照用。
开发者在 GitHub 发布了 Mainframe，一个把 Claude Code、Codex 等 AI 编码 Agent 集中到一个界面管理的开源开发环境。架构上分为 headless daemon 和客户端两部分，daemon 通过 HTTP/WebSocket API 提供 AI CLI 调度、多项目会话管理、内置文件编辑、沙箱预览、kanban 任务管理和插件系统，桌面应用内置 daemon，也支持独立安装在服务器并通过 Cloudflare named tunnel 远程配对，移动端 App 尚未发布。项目处于开发早期，Windows 和 Linux 版未经测试，作者征集 UI/UX 贡献。
推荐理由：个人开发的开源 Agent 编排环境，文档写明了 daemon 架构、远程配对与插件机制，适合想统一管理多个 AI 编码 CLI 的人参考。
OpenDCAI 开源了 LoopAI，一个让 LLM 在领域场景中自进化的闭环优化框架，把优化流水线重组为 Graph/Node/State 的节点化执行框架，覆盖评测、错误分析、数据获取到再训练的全流程自动化。v2 版本引入基于 codex-sdk 的 Starter，支持会话连续性、流式反馈和可配置模型池，可将对话意图转为可执行的优化工作流；核心节点包括 Judger（vLLM 评测）、Analyzer、ObtainerCLI/DataMixer 数据处理和 Trainer（支持 LLaMA-Factory 或 verl 训练），支持 human-in-the-loop 干预，采用 Apache 2.0 许可证。
推荐理由：原文给出了从评测、错误分析、数据获取到训练的完整节点化架构与部署细节，读者可以了解一条用自然语言驱动的模型优化闭环怎么搭。
llmspendguard 在 GitHub 发布 llm-spendguard，一款在运行前预估 LLM 任务成本、硬性拦截超额调用并与提供商实际账单对账的工具。spendguard scan 十秒扫描本地 coding-agent transcript 按 API 费率算成本，默认本地模式不上传任何数据；还支持 Batch API 与订阅通道的省钱路由、MCP model-advisor，以及可选解密 claude.ai sessionKey cookie 来核算聊天用量。项目缘起一次预算约 $33 实际花费 $149.76 的事故。
推荐理由：项目官方详解了LLM成本闸门的做法，从提交前估价到对账发票和便宜配置的质量验证，方法可复用。
pedrofariasx 在 GitHub 发布 qwenproxy，一个本地代理服务，通过 Playwright 浏览器自动化把 chat.qwen.ai 的 Qwen 模型封装成兼容 /v1/chat/completions、/v1/models 和 /v1/upload 的 OpenAI 接口。支持多账号负载感知路由与 cooldown、多用户 API key 限流配额、SQLite 持久化、reasoning_effort 思考模式控制、多模态上传、本地工具执行、React + shadcn/ui 管理面板、Prometheus 指标，可通过 npm 全局安装或 Docker 部署；混合会话模式复用 Qwen 服务端历史以减少发送的 token，并自动重试退化为“Yes”类回复的请求。
推荐理由：本地代理方案把 Qwen 网页版封装成 OpenAI 兼容接口，多账号路由、混合会话省 token 和多用户配额等实现细节讲得完整。
作者开源了 MCP-RAG Agent V2，一个面向 MCP Tool Calling 的语义路由 Agent，通过向量索引对 MCP 工具做语义检索，只把与 Query 相关的 Top-K 工具注入 LLM，再经 MCP Client 完成多轮 Tool Calling。在 18 个真实工具、合成干扰工具扩到 100 个的评测中，Hit@1 为 80%-85%，只传 Top-5 工具可将估算工具定义上下文压缩约 90%（100 工具时 20 例中 19 例命中 Top-5）；作者同时列出了纯稠密检索、20 条小样本评测、未测最终答案质量等局限。
推荐理由：项目给出20个查询、最多100工具规模的检索实测数据，读者可以借此了解语义工具路由在上下文压缩与命中率之间的取舍。
Ravikant 发布开源 VS Code 扩展 LLM Bridge，通过官方 Language Model Chat Provider API 将自托管或企业 LLM 端点接入原生 Chat 和 Agent 模式。支持 Ollama、OpenAI Chat Completions 与 Responses、Azure OpenAI v1 及 legacy 等协议，API 密钥存于 SecretStorage 并严格绑定 origin，无遥测、无运行时依赖，需 VS Code 1.104 及以上。
推荐理由：这个扩展把自托管或企业 LLM 端点直接接入 VS Code 原生 Chat 与 Agent 模式，密钥绑定 origin 且不带遥测，适合在意隐私的本地部署用户。
hannsxpeter 在 GitHub 发布 voiceprint，一个单一入口的 prose 真实性工具，将 humanizer（改写 AI 味文本）与 authenticity-check（只读诊断评分）按固定顺序各执行一次，不做迭代优化循环。工具包含无依赖的 scripts/text_hygiene.py，做确定性 Unicode 清理，按 Unicode Emoji 17.0 数据固定表保留 emoji 序列；policy 2（自 voiceprint 1.5.0 起）修复了 policy 1 曾破坏 40 个 basic emoji、全部 12 个 keycap 等序列的问题。
推荐理由：原文讲清了一次性组合诊断与改写的流程设计和 Unicode 清理的确定性边界，读者可以评估这套 prose 工具的适用范围。
opencodex 是一个轻量本地代理，把 Codex 的 Responses API 翻译成各提供商的协议，支持流式、工具调用、推理 token 和图像双向转换，让 Claude Code、Claude Desktop、Grok Build 等工具运行 Claude、Gemini、DeepSeek、Kimi、Qwen、Ollama 等 40+ 内置提供商的任意 LLM。安装为 npm install -g @bitkyc08/opencodex 后运行 ocx start，本地仪表盘在 localhost:10100；还支持 ChatGPT 账号池配额路由与线程亲和、failover/加权轮询 Combo、任意模型的子智能体路由，macOS/Windows/Linux 提供桌面应用 beta。
推荐理由：原文详细说明了这个本地代理如何把任意 LLM 接入 Codex 和 Claude Code，包括账号池路由和内存管理设计，部署做法可直接复用。
jblacketter 在 GitHub 开源了 Bugalizer，一个通过 REST API 接收结构化 bug 报告并以多阶段 AI 流水线自动处理的独立服务器。流水线分四阶段：本地规则验证去重、Ollama 本地模型（默认 qwen2.5-coder:7b）分诊、基于 tree-sitter AST 仓库图的两遍代码定位，最后经 litellm 调用 claude-sonnet-4-6 生成 unified-diff 修复提案。项目带 13 状态工作流、异步队列、SQLite 存储、API key 认证与 token 用量统计，前四阶段已完成，Web 仪表盘和外部集成仍在规划中。
推荐理由：这个项目把 bug 报告处理拆成本地模型分诊定位加云端模型出修复提案的四段流水线，架构和配置写得完整，可作搭建同类系统的参考。
SylphxAI 发布开源工具 anymd（前身为 pdf-reader-mcp），用 Rust 实现 PDF、Word、PowerPoint、Excel、EPUB、HTML、图片 OCR 和音视频字幕的本地转 Markdown，无需 API key，并通过一条命令接入 Claude Code、Codex、Cursor 等 MCP 客户端。自建基准 AgentDocBench 的 38 份文档上 anymd 总分 96.4、总耗时 11.5 秒，docling 93.0 分需 2,432.4 秒，marker 仅转换 30 份耗时 7,104.5 秒；输出带页码引用锚点并支持 token 预算分页。核心功能 MIT 协议免费，anyrd Pro 以 29 美元一次性付费增加视频时间线与 PDF 引用校验。
推荐理由：作者用同一 runner 上的自建基准给出与 docling、marker 等工具的总分和耗时对比，速度差异和局限都写得很具体，可以据此评估是否采用。
harlan-zw 发布 HTML 转 Markdown 工具 Mdream v2，提供 Rust NAPI、WASM 和纯 JS 三种引擎及流式转换，供 Claude、GPT 等 LLM 直接消费网页内容。实测对部分页面可减少最多 92% 的 token，Rust 引擎在基准测试中快于 Turndown、html2md 等多个对比库；配套 CLI 爬虫、Docker 镜像、Vite、Nuxt、GitHub Actions 集成，可整站生成 llms.txt 并支持构建向量数据库 RAG 流程。
推荐理由：README 提供了与其他转换库的速度和 token 用量对比数据，以及从单页转换到建站 RAG 的完整用法，便于选型和迁移参考。
openNovel 在 GitHub 开源，它是开源 AI 编程 agent openCode 的 fork，保留了会话运行时、工具注册、上下文代数与 Electron 外壳，改造为 AI 驱动的长篇小说创作工作台。核心是 8 步写作流水线和 37 维连续性审计，从角色、时间线、文风等 9 大类自动审查章节并附证据与修改建议；数据本地存储于 SQLite，支持 Electron 桌面端与 Web 自托管，MIT 许可。
推荐理由：原文讲清了8步流水线和37维审计的具体构造，读者可以了解如何把编程agent框架改造成长篇小说创作工作台。
GitHub 项目 ImageSkinForLLM 为 LLM 聊天机器人加上视频皮肤，从一张照片和语音样本让照片中的人用其声音说出聊天回复。项目基于 Python 3.11+ 与 ffmpeg，语音用 Kokoro 在 CPU 上合成并输出逐词与口型时间 JSON，照片经 MediaPipe 做人脸、清晰度、亮度等八项检查（25 MB/张上限），录音检查时长、削波、信噪比与单人说话（CAM++ 判断背景噪声需低于语音 20 dB 以上）；写实的 LivePortrait 引擎首次准备一张照片约需 7 分钟渲染 200 帧空闲循环，之后每段视频约为实时的三分之一速度，且设置页要求确认照片与录音本人同意后才允许上传。
推荐理由：README 详细给出了照片与录音的质量检查阈值、CPU 渲染耗时和依赖清单，读者可以据此评估能否在自己机器上跑通这个照片说话项目。
Elysia0126 在 GitHub 开源了 AI Course Assistant，一个全栈 RAG 学习应用，支持上传课件 PDF、PPT、Word 与笔记后进行带页码级引用的流式问答、自动判分测验和基于 SM-2 间隔重复的闪卡复习。技术栈为 FastAPI + PostgreSQL/pgvector + Next.js，混合检索（HNSW 向量 + BM25 + RRF 融合）在 33 题人工标注评测集上达到 Recall@5 1.00、MRR 0.92，并修复了 Postgres ts_rank_cd 缺少 IDF 导致的排序缺陷（关键词 Recall@1 从 0.64 提升至 0.86）。
推荐理由：作者开源了一个完整 RAG 学习应用并附上 33 题检索评测数据，混合检索与安全实现细节可直接借鉴到类似项目。