内容形态
开源仓库与工具：人格工程、记忆系统、去对齐脚本、推理与微调工具链。
2,050 条精选近 30 天 2,043 条共收录 8,516 条
temptation2017 在 GitHub 发布单文件零依赖 CLI 工具 skill-guard，用于在把 Agent Skill（SKILL.md 技能包）装进 Claude Code、Codex、Cursor、OpenCode 前扫描目录中的风险模式，覆盖下载外传、动态执行、凭证路径、提示词注入等。内置 SHELL_CURL、CREDENTIAL_PATH、PROMPT_INJECTION 等分级规则，默认发现 high 级别以退出码 1 失败，可集成进 CI 或安装钩子；作者说明规则是启发式而非沙箱，需配合 paste-guard 脱敏使用。
推荐理由：给出了内置规则表、退出码和用法示例，读者可以在装 Agent Skill 前直接复用这道本地扫描流程。
1CatAI 在 GitHub 发布 1Cat-vLLM-Gaudi，一个维护的 vLLM-Gaudi 硬件插件工程分支，重点优化 Gaudi2 上的 Qwen、DeepSeek、MiniMax 模型推理，覆盖 TPC/MME 算子、Graph + Compile、Native Replay、TP2 与 TP2 × PP2 多卡执行。README 给出 Qwen3.8-27B-FP8 对照记录：输入 2,048 tokens 时 Gaudi2 单请求首字 0.4036 s、Decode 57.17 tokens/s，较 A800 单卡首字缩短 47.8%、Decode 提升 17.5%；32 并发时 Decode 总吞吐 958.44 tokens/s，仍比 A800 低 3.3%。
推荐理由：这个 vLLM-Gaudi 分支把 A800 与 Gaudi2 的逐档并发对照数据连同测量口径一起公开，读者可以核对每项优化的适用范围与局限。
pigo 是一个用 Go 编写的终端编码智能体，可通过 extensions、skills、prompt templates 和 themes 定制而无需 fork 主程序，资源可打包后经 npm、git 或本地路径分享。提供交互式 TUI、print/JSON、RPC 和 server/client 四种运行方式，内置 Anthropic、OpenAI、GitHub Copilot、Gemini、Amazon Bedrock、OpenRouter、xAI、llama.cpp 等提供商，默认赋予模型 read、write、edit 和 bash 工具，不导出稳定的 Go 库。项目灵感来自 earendil-works/pi。
推荐理由：README 给出了扩展、技能与包机制的具体用法和多种运行方式，想定制终端编码智能体而无需 fork 主程序的读者可以参考。
MincongZhou 发布 fengge-distill 仓库，把 1,921 条公开博文（2025-02 ~ 2026-08，日均 3.4 条）和 4,163 条 ≥30 赞热评蒸馏成「峰哥语体规矩」，含封禁前后两期文风演进对照。语料还接入 2026-09-24 起的 B站直播切片（去重后净字数 460,464，约为微博语料的 3.9 倍），并整理出三条字幕口径坑。仓库同时是标准 DSH Bundle，静态审计 Commit 566367a 零硬阻断（static 77/80），一次性 Profile 的运行时验收仍未完成；声明仅供风格研究，不用于冒充。
推荐理由：原文给出了完整的语料统计口径、封禁前后分期对比和验收层级划分，读者可以按需取用这套人格蒸馏与打包方法。
作者开源了 LLM Wiki Toolkit，一个用于在 Obsidian 上构建和维护 LLM 驱动知识 wiki 的可复用 Python CLI 工具包，灵感来自 Andrej Karpathy 的 LLM Wiki 概念。其思路是用 LLM 增量编译并维护相互链接的 markdown wiki，而非每次查询时用 RAG 检索原始文档块；工具提供 ingest（提取、综合、交叉引用三阶段流水线）、query（--file-back 保存答案）、lint（结构审计加 ChromaDB 语义审计与自动修复）等命令。信任机制包括每条事实强制内联引用、置信度阈值（3 个以上来源才算 high）、raw/ 目录不可修改、git 全程提交审计和 differ.py 人审 diff。
推荐理由：仓库文档讲清了把 RAG 换成增量编译 wiki 的完整流水线和信任机制，做个人知识库 Agent 的读者可以借鉴其工程做法。
作者 Nemili Enoch Das 在 GitHub 开源 SentryEye，用 CCTV 视频实时检测交通事故，通过三级级联（YOLOv11 + ByteTrack 检测跟踪、运动异常信号、Gemini 或 Ollama 视觉 LLM 校验）只在约 0.1% 的帧上调用昂贵的视觉 LLM，比逐帧运行大模型减少约 99% 调用量。系统输出 Pydantic 类型化事故报告，含事故类型、严重度、车道是否受阻与建议行动；在 TAD 基准上廉价门控达到 81% 召回、31% 误报，视觉 LLM 校验可剔除误报。作者还诚实记录了学习式门控未能稳定超过手工调优规则的实验结果。
推荐理由：项目用真实事故数据给出了级联调用比例和召回率等实测结果，读者可以借鉴这种廉价过滤加昂贵校验的分层思路。
justinatusa 在 GitHub 发布开源小书 llm-eval-scoring-taxonomy，讲解模型输出如何经过判对错、合并多次采样、合并多个判官、合成总分变成榜单分数。全书按分数来路把评测分成四类：单独给一个模型打分、对照参考产出与相对比较、真实使用数据、跨 bench 合成指数，并用 data/benchmarks.csv 收录 227 个 bench 的完整标注数据，正文数值例子可用仓库脚本复现，最后解读 Artificial Analysis、LMArena、METR 等主流榜单的头条数字来源。
推荐理由：作者把 227 个 bench 按出分方式分成四类并给出可复现脚本，读者可以借此理解同一评测数字为何差出好几倍。
作者发布 lmex 项目，将免费档 LLM API 拟为交易所 ticker，以 TTFT p99 毫秒数为价格，每 :07 由 GitHub Actions cron 运行 llm-latency-bench 基准并将结果提交到仓库，dashboard 用绿涨红跌反转色的蜡烛图展示延迟，错误率超 50% 即停牌。收录 Groq、Google Gemini、Cerebras、OpenRouter 等 7 个模型端点，每 tick 仅 6 到 10 次请求以留在免费额度内，743+ 条历史记录发布为 Kaggle 公开数据集，并附 latency-router 实时选择最快端点。项目 MIT 协议，无服务器，dashboard 由 GitHub Pages 读原始文件。
推荐理由：作者公开了整套测量流程、样本量局限和 p99 取舍理由，方法透明，读者可以直接复用或自己 fork 搭建。
Rampa 是开源命令行 WCAG 无障碍检查器，先用 axe-core 处理规则能判定的问题，再把语义残留按 WCAG 2.1 准则逐条交给语言模型判断，覆盖 alt 文本、页面标题、链接目的、标签可见性等 9 项准则。每条结论必须引用页面上真实存在的节点和文本，否则被丢弃；可经 Ollama 本地模型或主流服务商运行，支持 SARIF、CI、Playwright 和 MCP，并附 W3C ACT 测试用例上的评估数据。
推荐理由：开源 CLI 用 axe-core 加模型判断补足规则无法判定语义的残留，并以 W3C ACT 测试用例给出每条准则的实测数据。
justsml 开源 ExploitHunter.app，一个本地优先的 AI 智能体安全研究工作台，支持授权台账、审批门、证据存档和本地 lab 运行时。实测中 qwen-3.6-flash 在 Hard Juice Shop 上找到 7 类有证据支撑的漏洞，单次成本 $0.007，而 Claude frontier 路线单次约 $2.00-$2.35；本地 LM Studio 路线（如 lmstudio-gemma-4-e4b）可以 $0 API 成本离线找到 7 类漏洞。作者主张的方案是指挥者模式：廉价或本地模型做广域侦察，frontier 模型只用于深度推理和验证。
推荐理由：同一评测里给出各家模型的实测分数和成本对比，读者可以据此了解廉价模型与本地模型在安全扫描任务上如何分工路由。
murai1998 在 GitHub 发布 LocalLLM，一个完全本地运行的开源 AI 助手平台，基于 Gemma 4 12B（GGUF，llama.cpp 推理），支持多模态聊天、文档 OCR、语音转文字、实时语音翻译和 LangGraph 工具调用智能体。项目采用单一 FastAPI 网关暴露 OpenAI 兼容 API，支持 CUDA 与 Apple Silicon GPU 加速，48 GB Apple Silicon Mac 可换用 Gemma 4 31B 或 Qwen3.8-27B 预设（M5 Pro 上约 13–15 tok/s）；唯一非本地功能是可选的 Gemini 3.5 Live Translate 对比引擎，需自备 API key。
推荐理由：README 详细给出了网关架构、量化配置和多智能体设计，想自建本地 AI 平台的读者可以参考其单网关和提供方抽象做法。
Kizuna AI Lab 在 GitHub 发布开源实时双向语音翻译应用 Sokuji，提供桌面端与浏览器扩展两种形态，可接入 Zoom、Teams、Meet、Discord 等应用。工具支持 Local Inference 模式，基于 WASM 与 WebGPU 在设备端完成 ASR、翻译和 TTS，无需 API key、不依赖独立 GPU，完全离线；内置 44 个 ASR 模型、75 个翻译模型、137 个 TTS 模型，覆盖 99+ 识别语言、55+ 翻译语言和 53 种语音合成语言。
推荐理由：开源实时双向语音翻译工具，本地推理与多家云服务商可切换，需要跨语言会议又在意隐私的读者可以关注。
Lampost-123 在 GitHub 发布 AI Write，一款免费的 Windows 10/11 64 位长篇 AI 写作应用。它为每个故事维护角色、地点、规则和情节线索的记忆，在每次生成前注入当前场景所需内容，场景完成后自动更新记忆且每次改动可撤销；写作时实时检查拼写、事实矛盾和角色不应知晓的信息。支持 OpenRouter、DeepSeek 或本地 LM Studio/Ollama 模型，朗读与听写语音本地运行，故事数据保存在本地 Documents 文件夹，应用无账号无追踪，朗读语音需 NVIDIA RTX 20 系及以上 8 GB 显存。
推荐理由：这款写作工具把故事记忆和一致性检查做进本地应用，展示了长篇创作里维持角色与情节连续性的一种可落地做法。
gpupool 是一个基于 llama.cpp 的控制平面，能把分散在多台机器上的空闲 VRAM 池化，按层拆分模型跨 GPU 和服务器部署，并对外提供单个 OpenAI 兼容 URL。它支持多模型优先级与抢占、KV cache 量化共享、投机解码、Hugging Face 到 GGUF 的内置转换，估计器与已发布的 Q4_K_M GGUF 文件体积误差在 4% 以内；文档提醒 RPC 端口无认证，需在私网或 VPN 内使用。
推荐理由：gpupool 把多台机器的空闲 VRAM 池化成一个 OpenAI 兼容端点，文档给出具体放置方案和显存估算精度，便于评估能否复用自家零散 GPU。
XuexGao 在 GitHub 发布 free-llm-router，把 10 家厂商、11 个变体的免费/自持账号池聚合为一个 OpenAI 兼容 API，部署在 Cloudflare Workers Free 计划即可。支持流式与非流式、工具调用、provider/model 前缀路由、AES-GCM 凭据加密，并自动执行每日签到与成长任务，实测腾讯 buddy 计划 23/23 步全成功并领取 +300 积分。文档同时诚实列出限制：codearts/trae 等因上游强制本机回调只能导入凭据，会话粘性与流内换号未接线，项目声明仅限本人授权账号自用。
推荐理由：项目文档详细记录了各供应商接入能力、实测结果和已知限制，读者可以按需判断能否复用这套免费账号聚合网关。
开发者 UmarSiddiqui 在 GitHub 开源了 HeyMate，一款住在 Mac 刘海中的 AI 伙伴应用：按住 ⌃ ⌥ 即可就屏幕内容提问并获得语音回答。它可将编码任务交给已安装的 Claude Code、Codex 或 OpenCode CLI，复用用户已有订阅，无需额外 API 账单；智能体先给出只读计划，批准后才执行，并提供撤销快照。应用还包含 mates（各有名字、人格、记忆和工作区）、微应用小组件，支持 Apple 应用、本地 CLI、MCP 与 Composio 连接，截屏仅在提问时进行且不存储，聊天与记忆以纯文本存于本地。基于 MIT 许可（源自 Clicky 项目），需 macOS 14.2 及以上。
推荐理由：这款开源 Mac 刘海应用复用已有的 Claude 或 ChatGPT 订阅跑编码智能体，先出只读计划、批准后才动手并支持撤销，隐私说明也写得具体。
tyama-ds 发布了 agent-workbench，一个在 Windows 11 上运行的智能体工作应用，供 Local LLM、OpenAI、Anthropic 使用，PM 创建作業者并分配角色，通过邮件协作汇总结果，支持同 API 角色团队和异 API 混成团队。项目仅提供源码版（MIT License），不内置 Python，需已授权的 64-bit CPython 3.11～3.13，通过 Setup.cmd / Launch.cmd 启动，默认端口 8818；从 0.1.1.dev23 起停止了 Python 内置版的制作与分发。
推荐理由：这是一个支持 Local、OpenAI、Anthropic 混成团队的 Windows 智能体工作台，权限、预算与文件安全的实现细节写得相当具体，适合关心本地部署与多智能体协作的人参考。
betyourluck 在 GitHub 开源 Lorekeel，一款 TRPG 游戏主持人工具，用云 LLM 做叙述、确定性 Rust 引擎作为游戏状态的唯一真相来源，解决 AI Dungeon 式 LLM GM 的遗忘与矛盾问题。LLM 只提交 StateDelta 提案，引擎用纯函数裁决，非法操作整包拒绝并重新生成，因此廉价、免费或本地模型也能维持一致的游戏。
推荐理由：这个 TRPG 工具把游戏状态从 LLM 手里移交给确定性 Rust 引擎，思路对解决 AI 跑团遗忘与矛盾问题有直接参考价值。
GitHub 项目 spread-your-claudes 提供一组轻量 CLI 包装器，让 Claude Code 把大文件读取或完整子任务一次性交给 gemini-think、cursor-think、codex-think、geminiweb-think 等 lane，在对应厂商配额上执行，只返回约 5 行带 file:line 引用的答案，避免每轮重发 600 行内容烧掉主会话用量。
推荐理由：作者讲清了用其他厂商 CLI 分担大上下文读取的原理、配额追踪和安全限制，方法可直接复用。
作者在 GitHub 发布 TestGen Agent，一个独立 Python 工具，可为 Java 项目自动发现方法并生成 JUnit 4 单元测试，支持 OpenAI（GPT-4o-mini）、Anthropic（Claude）及 Anthropic 兼容端点如 DeepSeek，含自动编译修复（最多 3 次）、可选 JaCoCo 覆盖率引导改进和 JSONL 断点续跑。在捆绑的 Maven 演示项目上用 deepseek-v4-flash 端到端跑通：40 个测试文件全部编译通过，38 个可运行中 36 个通过，PiTest 突变得分 83.8%（67/80），接近人工基线 83.98%。
推荐理由：作者用 PiTest 突变得分而非编译通过率来衡量 LLM 生成的测试质量，并公开了演示运行数据与诚实短板，方法可直接复用。