跳到正文
#提示词注入
10月14日周三
  2. GitHub · 灵魂体仓库53

    Nexus-OSINT：本地优先的开源 OSINT 调查工作台发布

    Dor Rachmani 发布开源工具 Nexus-OSINT，将 RSS、Google News、Reddit、GDELT 等开源情报采集聚合在本地运行，数据存为单个 SQLite 文件，支持 SQLite FTS5 全文搜索、近重复合并与去重。可选接入 Gemini、OpenAI、Anthropic、Grok 或 Ollama、LM Studio 等本地模型做摘要、翻译、实体抽取和 0-100 相关度打分；按案件组织调查，提供 Focus 阅读队列、实体档案、关系图谱、每日邮件简报、Evidence Vault 取证截图和 PDF/HTML/CSV/JSON/Obsidian 导出，出站连接可审计，内置助手 Sherlock 仅允许白名单本地操作且输出按纯文本渲染以防 prompt injection。

10月13日周二
  1. GitHub · 灵魂体仓库41

    ilyhay 开源 AI-Quality-Evaluation-Pipeline：可复现的 LLM 与 ASR 自动化评测流水线

    GitHub 项目 AI-Quality-Evaluation-Pipeline 提供可嵌入 CI/CD 的 AI 质量评测流水线。LLM 评测用 Ollama + Qwen 2.5 3B，12 个用例 PASS 率 8.3%，发现间接提示词注入漏洞，LLM-as-a-Judge 比 keyword 检查更可靠；ASR 评测用 faster-whisper small（int8 量化），干净音频 WER 约 5.23%，噪声音频达 81.48%。

  2. GitHub · 灵魂体仓库48

    craftsman-apps 开源企业 AI 访问层 Ambit v0.1.0

    GitHub 上的 Ambit 是基于 agentgateway 和 ToolHive 构建的自托管企业 AI 网关，已发布 v0.1.0 Alpha 版（Helm 安装，仅支持 Kubernetes 部署）。它通过身份提供方组规则控制各团队可用的模型与 MCP 服务器，提供个人 API key、按人和按组的每日预算（以请求数或估算美元计）、完整审计日志及离职即撤销会话与密钥的功能，支持 Azure OpenAI、Amazon Bedrock 和 Vertex AI。

  3. AIHOT · 精选42

    用 Claude Opus 5.5、Blender、Unreal Engine 和 Meshy 构建游戏的七步教程

    教程讲解用 Claude Opus 5.5 配合 Claude Code、Blender、Unreal Engine 5 和 Meshy 七步构建游戏：通过 MCP 连接各工具，Meshy 生成道具和角色，Blender 清理放置，Unreal 负责光照物理与游戏本体，Opus 在同一对话中调度。首个完整构建约花 4 小时、消耗约 19% 的每周 Max plan 用量，之后因素材复用会明显加快。

  4. GitHub · 去对齐工具与仓库63

    NathanYearout 开源支付事件 webhook 调试器 tailhook

    作者开源 tailhook，一个部署在 webhook 发送方与应用之间的支付事件调试器，负责验签、幂等去重、重试转发和死信队列，并用 Bedrock 上的 Claude 通过四个只读工具解释扣费失败原因。项目用 Terraform 一键部署，60 秒压测发送 60,000 条事件、零丢失，Agent 评测含 18 个用例且用字符串断言而非 LLM judge 打分。

    推荐理由：作者开源了一个支付 webhook 调试工具，附架构说明、压测数据和 18 个 Agent 评测用例，部署脚本可直接复用。

  5. GitHub · 去对齐工具与仓库60

    Directive 开源 TypeScript 约束驱动运行时，内置 AI 护栏与多智能体编排

    directive-run 在 GitHub 发布 Directive，一个约束驱动的 TypeScript 运行时：开发者声明必须为真的事实，运行时通过 resolver 自动完成获取、重试、批处理和错误恢复。其 AI 包提供 4 个 LLM 适配器（OpenAI、Anthropic、Ollama、Gemini，纯 fetch 零 SDK 依赖）、PII 脱敏、prompt injection 检测、内容审核、成本与预算控制及并行、序列、supervisor、debate、DAG 等多智能体模式。

    推荐理由：原文给出了约束驱动状态运行时的具体用法代码和与传统状态库的对比表，读者可以直接评估是否引入到自己的 TypeScript 项目。

  6. GitHub · 灵魂体仓库56

    FalconEye 开源自托管 OSINT 调查工具箱，支持从 Claude Code 调用

    OSINT-PH 在 GitHub 发布自托管 OSINT 工具箱 FalconEye，AGPL-3.0 许可，当前版本 3.38.25，实例地址 falconeye.osintph.info。它提供二十个模块，包括加密货币钱包追踪、钓鱼套件指纹识别、域名情报、Telegram OSINT、IP 信誉、邮件头取证、跨约 950 平台的用户名枚举和 Have I Been Pwned 泄露查询等。内置 MCP 服务器使其中十个模块可作为工具在 Claude Code 和 Claude Desktop 中调用，走 stdio 传输、仅本地模式；四个模块由 Claude Haiku 4.5 驱动，JSON 输出经 schema 校验，不可信输入以 fence 包裹防提示注入，单次 LLM 调用成本约 $0.003。

  7. GitHub · 灵魂体仓库42

    WRG-11 发布 ai-security-toolkit 开源 AI 安全工具集：含提示词注入检测器、LLM 扫描器与防火墙

    WRG-11 在 GitHub 开源 ai-security-toolkit，包含提示词注入检测器、LLM 漏洞扫描器和 LLM 防火墙三款 Python 工具，仅依赖标准库。检测器在 5-fold holdout 上 F1 0.93、precision 0.99、recall 0.88（默认阈值由 0.50 改为 0.30），扫描器覆盖 OWASP LLM Top 10 的 193 个探针，防火墙内置 10 个默认 guard，并附带两个漏洞实验环境和 Gandalf 8/8、Agent ODIN 3/3、Prompt Airlines 5/5 的 CTF 成绩及求解器代码。

  8. GitHub · 去对齐工具与仓库62

    nab 发布：单二进制网页抓取、本地语音识别与 URL 监控 MCP 工具

    MikkoParkkola 发布 nab，一个单 Rust 二进制的 MCP 服务器，提供三类功能：将任意 URL 抓取为面向 LLM 上下文窗口的干净 markdown、本地多语言 ASR 转写与说话人分离、URL 变更订阅推送。ASR 默认用 FluidAudio 的 Parakeet TDT v3 跑在 Apple Neural Engine 上，2 小时音频实现 131 倍实时，支持 25 种欧盟语言，可选 Qwen3-ASR 处理 zh/ja/ko/vi；默认无 API key、全部本地运行。

  9. GitHub · 灵魂体仓库42

    Injektor：面向 LLM 应用的终端提示词注入与越狱测试工具

    GitHub 上的开源工具 Injektor 可在终端向 OpenAI 兼容端点发送固定的对抗性提示词套件，检测提示词注入与越狱风险。内置 10 个测试用例，涵盖直接注入、roleplay 越狱、system prompt 泄露、编码外传和四类间接注入，通过 canaries 与 markers 识别泄露，输出 JSON 和 HTML 报告。结果分为 confirmed、potential、inconclusive 和 error，请求串行执行并提供离线本地 demo。

  10. GitHub · 灵魂体仓库53

    OpsPilot 事件分诊项目开源：LLM 建议方案、人工批准基础设施变更

    GitHub 开源项目 OpsPilot 接收 CloudWatch 告警后，用 EventBridge 与 SQS 触发 worker Lambda 运行 LangGraph 工作流，完成拉取日志、脱敏、检索 runbook、诊断和策略门控。LLM 只提供建议，变更类操作（如调高 Lambda 内存）需经 REST API 人工批准后执行，只读操作自动运行。项目基于 AWS serverless，可落在免费额度内，LLM 支持 mock、Ollama、Bedrock 三种后端，附带 64 个单元测试，模型故障时回退到确定性启发式规则。限制包括单租户单区域、仅覆盖 Lambda 故障场景且含四份 runbook，未做模型质量基准测试。

  11. GitHub · 灵魂体仓库52

    slm-industrial-gateway 开源：面向工业与矿业的 SLM 双网关及实测基准

    Rxyxs 发布 slm-industrial-gateway 仓库，提供 OpenAI 兼容聊天网关与工厂网关，前者本地 GGUF 推理加多 Agent 流水线，后者将 MQTT / OPC UA / Modbus 遥测在 3 秒内转为 HOLD、ADJUST_SETPOINT 或 RAISE_ALARM 动作，支持断路器、fail-safe 和防篡改审计。实测显示 1.5B 基础模型 94/100 提示词因幻觉工具参数名被拦，qwen2.5:1.5b 100% 小时给出前提与数据矛盾的理由；用判别联合 schema 后 qwen2.5 各尺寸合同合规率 100%。附 Qwen2.5-3B Q4_K_M 在 CPU 上的 TTFT 8504ms、3.2 tok/s 等基准数据。

10月12日周一
  1. GitHub · 灵魂体仓库25

    LLM 如何在你写第一行代码前就破坏隐私——rishab-goel-dev/gdpr-llm-article 交互式文章

    GitHub 仓库 rishab-goel-dev/gdpr-llm-article 提供一篇交互式文章，探讨 LLM 驱动的数据管线在开发前的隐私挑战，以独立 HTML 页面呈现。无需安装依赖或构建，下载仓库后直接在浏览器打开 index.html 即可阅读；也可通过 GitHub Pages 以 Deploy from a branch 方式发布副本。

  2. GitHub · 去对齐工具与仓库45

    JYeswak/jev_playground：编码智能体集群中分类器技术的实测与筛选仓库

    JYeswak 开源 jev_playground 仓库，在编码智能体工作流中实测各类分类器技术：该读哪个文件、工具结果是否含注入、命令是否有风险等。证据显示关键词与 regex 规则在工具调用风险分诊、钓鱼、评审发现新颖性检查上胜过类型化模型，确定性门控以 98.1% 一致率取代模型前置门控且零调用；类型化模型在文本内标签场景占优，如 FiQA top-1 76.2% 对 BM25 39.3%。所有胜出方案经统一 CLI（classifier）交付。

  3. GitHub · 灵魂体仓库22

    GuardedChatBundle v0.1 发布：为 Symfony AI 公共聊天提供护栏

    Stefan39 在 GitHub 发布 GuardedChatBundle v0.1，为 Symfony AI 应用的公开匿名聊天端点提供护栏层，含签名会话 token、提示词注入预过滤、两段式 kill switch、每客户端速率与预算限制。系统提示词支持数据库内版本管理，答案可基于人工维护的知识库片段（默认 PostgreSQL 全文检索，每次最多 4 条），会话按可配置天数（默认 90 天）删除。聊天组件与完整文档将在后续版本提供，1.0 前 API 可能变动。

  4. GitHub · 去对齐工具与仓库68

    WardenBot AI 开源 pytest-wardenbot 聊天机器人安全测试插件 v0.1

    WardenBot AI 在 GitHub 发布 pytest-wardenbot v0.1（pre-release），用 pytest 对聊天机器人和工具型 Agent 做黑盒安全测试，覆盖 prompt injection、MCP 边界、系统提示词泄漏、越狱和业务幻觉。v0.1 提供 29 个免 API key 的确定性测试，以 regex、substring 和 schema 判分，可选 DeepEval LLM-judge 做语义检查；测试失败时输出可直接粘贴到 Cursor 或 Claude Code 的 Markdown 修复提示。安装要求 Python 3.11+，pip install pytest-wardenbot，Apache 2.0 许可。

    推荐理由：把一套对抗性安全测试打包成 pytest 插件，可直接嵌入现有 CI，并明确了绿跑代表的与不代表的安全边界。

  5. GitHub · 去对齐工具与仓库21

    pincer：面向 AI 模型的简易安全测试工具包

    pincer 是一个用于测试 AI 语言模型弱点的安全测试工具，可检测 prompt injection、jailbreak、数据提取和 guardrail bypass 等风险，无需编程基础即可使用。它支持 Windows 10+、macOS 10.15+ 和多数 Linux，需至少 4 GB 内存和约 200 MB 存储空间，测试在本地运行，并可导出测试报告。

10月11日周日
  1. GitHub · 去对齐工具与仓库73

    ghostchars 开源检测代码与提示词中的隐形 Unicode 攻击

    Anton Soloviev 发布 ghostchars 0.1.5，用于检测代码、文档和 LLM 提示词中双向控制符、tag 字符、variation selector、隐形字符和同形字等隐藏 Unicode。对 83,494 份公开提示词的普查发现 3 份文档藏有 tag 或 variation selector 隐写载荷，工具解码其中 2 份；另有 401 份文档报告 18,390 条发现，人工核查 53% 并非隐藏文本。工具提供库、CLI、GitHub Action、pre-commit 钩子和纯本地网页版，未发布的 checkout 新增 styled-text 规则与 --fix 修复。

    推荐理由：作者用 83,494 份公开提示词实测了工具的检出与误报情况，也写明了漏检项，读者可以据此判断要不要接入自己的流程。

  2. GitHub · 灵魂体仓库32

    SecuRAX AI 云安全靶场（ai-cloud-cyber-range）开源仓库发布

    GitHub 仓库 rohan2pt0/ai-cloud-cyber-range 发布 SecuRAX 框架的 Pillar 1——一个多云、纵深防御的 AI 安全靶场，覆盖安全 AI 工程、Agentic SOC、对抗性 ML/红队、AI-SPM 和 AI 治理。默认在本地笔记本以 Ollama + Docker + kind 运行，零成本起步，也可在 ₹2,500/月硬上限内爆发至 AWS/GCP/Azure 免费层，并配自动 kill-switch。当前状态：23 个单元测试通过，红队防御率 100% 且 0 误报，AI-SPM 姿态 16/16，控制项映射 NIST AI RMF、ISO/IEC 42001、OWASP LLM Top 10 与 MITRE ATLAS 等框架。

  3. GitHub · 灵魂体仓库57

    asserthired-evals 开源：面试评分提示词的生产级评测套件参考实现

    GitHub 上的 asserthired-evals 仓库发布了一个面向面试评分 LLM 应用的生产级评测套件公开参考实现，包含 60 条合成黄金用例、5 个安全探针、12 个红队攻击用例和七项带 CI 阈值的指标。基线运行在 claude-sonnet-4-5 上，65 例中评分在区间内 98.5%、反馈忠实度 89.2% 低于 90% 目标、安全 64/65 未达标并保留一例边界失败作分析；套件现默认用 Claude Sonnet 5.5 评分、Haiku 4.5 做 LLM-as-judge，另提供漂移检测、数据集复核队列与判官校准脚本，完整付费运行约 195 次 Anthropic API 调用、成本约 $2 到 $3。

    推荐理由：这是一个可完整复用的 LLM 评测套件参考实现，七项指标、红队用例和漂移检测的做法可迁移到其他高信任提示词场景。

  4. GitHub · 灵魂体仓库48

    estado-ai-agent：基于 Spring AI 与 Google Gemini 的巴西州数据问答智能体

    estado-ai-agent 是一个基于 Spring AI 2.0+ 与 Google Gemini（Free Tier）Tool Calling 的 LLM 智能体，通过调用 estado 项目公开 API 的实时数据回答巴西各州相关问题，前端经 angular_estado 的 "Ask the AI" 页面访问。其安全设计包括 X-API-Key 认证、Bucket4j 每 IP 默认 10 次/分钟的限流，以及输入/输出两层提示词注入防御；主模型遇 503/429/超时会重试备用模型（默认 gemini-3.1-flash-lite）。该智能体仅暴露在内部 Docker 网络，仅 estado-app 的 BFF 可调用，不对外提供直接入口。

  5. GitHub · 去对齐工具与仓库41

    FORK：让 AI 智能体先模拟多种财务分支、再由人工授权提交的对齐工具

    FORK 是一个为 ArmorIQ Flow State 2026 黑客松打造的对齐工具，让 AI 智能体在真实操作前探索多种财务方案：LLM 规划器最多提出三个分支，各分支针对同一账本快照模拟，CFO 仅授权一个分支后经 MCP 服务器提交。ArmorIQ 会将每次工具调用与签名计划核对，超 $10,000 的付款需人工在平台批准；发件箱中出现伪造供应商邮件时，不在签名计划内的工具会被 ArmorIQ 拦截。

  6. GitHub · 灵魂体仓库51

    ArdurAI 发布 Rust 版个人 Agent 运行时 Ardur，安全基座内置于调用管线

    ArdurAI 开源了 Ardur，一个以安全为基座的个人 AI Agent 运行时，用 Rust 编写，支持多渠道（Slack、Matrix、Discord、Telegram）和 6 种模型提供方（含 Anthropic 与 Ollama 本地部署）。每次对话经单一 FusedRuntime 十阶段管线处理：Biscuit 能力令牌授权、Cedar 策略检查、四阶段成本准入闸门、提示词注入扫描、JWS-ES256 签名收据链、双时态记忆与 append-only 日志，任一阶段失败即短路。项目状态为 2026 年 6 月收尾实现，基座功能完整但尚非开箱即用生产部署，默认仅注册安全本地工具，加固内建工具的默认接线由 ARD-457 跟踪，Apache 2.0 许可。

  7. GitHub · 灵魂体仓库70

    SkillTotal 开源发布：Claude Code 安装包前的静态安全扫描器

    pezhik 发布开源工具 SkillTotal（Apache-2.0），在 Claude Code 等编码智能体执行 npx、npm install、pip install、claude mcp add 前静态扫描 npm/PyPI 包、MCP 服务器、agent skills 和 git 仓库，纯本机运行、不执行代码、不调用 LLM，每条发现附文件行级证据。官方用规则集 56-59 与引擎 0.49.0 扫描了官方 MCP registry 中 17,535 个组件里的 15,341 个（87.5%），其中 21.1% 可执行 shell 命令、64.8% 可联网，但 99.3% 评分为低风险；另发布含 64 恶意、46 良好样本的标注语料作为检测效能下限。

    推荐理由：开源的 Agent 安装前静态扫描工具，规则、检测效能数据和扫描方法论全部公开，可本地复现审计。

10月10日周六
  1. arXiv · cs.AI35

    WeatherBridge：面向预训练气象预报模型的预报感知多源输入适配方法

    WeatherBridge 是一个源条件适配器，用 Swin-UNet 预测结构化残差修正，将 GFS、HRES、CMA 等业务 NWP 初始场映射到 ERA5 参考状态，且无需更新预训练的 FuXi 模型；训练目标结合纬度加权 ERA5 重建与 One-step Rollout Alignment（ORA）。在 2025 年 1 月 1 日至 11 月 22 日的评估中，FuXi 在 6–240 小时预报的 18 组源-变量组合中 17 组 RMSE 下降，中位数降幅 10.2%，最大 46.3%，且该适配器还能提升 FengWu 在 GFS 输入上的表现。

  2. GitHub · 去对齐工具与仓库46

    AgentGuard：面向 AI 购买智能体的花费策略控制平面

    GitHub 上的开源项目 AgentGuard 为 AI 购买智能体提供花费策略控制平面，策略以代码而非提示词实现。它通过 LLM 提取消费意图，再用六条规则（月度预算、单笔上限、商家白名单、品类限额、频率、审批阈值）输出 ALLOW/DENY/ESCALATE 三种决策，每次决策追加到哈希链 SQLite 账本，verifyChain() 可验证篡改。项目已通过真实 PayPal sandbox 实测验证，Escalate 需人工审批，提示词注入最多只能导致 DENY。

  3. GitHub · 去对齐工具与仓库63

    reasoning-kernel 0.6.3 发布：用 CaMeL 式控制流隔离防御 LLM Agent 提示词注入

    gianlucamazza 在 GitHub 发布 reasoning-kernel 0.6.3，一个框架无关的 Python 参考实现，将 LLM 视为不可信计算，用 CaMeL 式（arXiv:2503.18813）控制/数据流分离降低提示词注入到实际效果的风险。核心是两条不变量：根规划器不接触原始工具输出，模型输出必须通过确定性 Gate 验证才能产生持久效果；P-LLM 与 Q-LLM 均为不可信推理器，权限只能收缩。项目附带威胁模型与非目标清单，明确声明这不是安全证明，PyPI 包名为 capability-reasoning-kernel，MIT 协议。

    推荐理由：这是 Reasoning Kernel 模式的可运行参考实现，威胁模型与测试覆盖写得明确，适合构建处理不可信输入的 Agent 时对照借鉴。

  4. GitHub · 去对齐工具与仓库54

    Split-Brain Harness：Rust 安全代理层开源，可检测提示词注入与多轮会话升级

    GitHub 项目 bigblue-r4/split-brain-harness 发布，这是一个 Rust 编写的安全层，以 OpenAI 兼容代理形式包裹任意 LLM，在生成响应前检测提示词注入、内部威胁、权威冒充和多轮会话升级，可完全离线运行并编译为单一静态二进制。基准测试显示 CyberEC 198 行零误报（precision 1.000、recall 0.571），Deepset precision 0.922、recall 0.408；README 撤回了此前无依据的 94.8% TrustAI 标记率，修正后数据为 48.9% 标记 medium/high、含升级共 80.8% 被标记或拒绝。

  5. GitHub · 3D 生成新仓库31

    local-leads-automation：面向网页开发者的本地商家线索挖掘工具

    local-leads-automation 是一款线索挖掘工具，从 Google Maps 抓取本地商家信息，分析其网站质量（HTTPS、SEO 评分 0–100、法律合规等），并通过 OpenRouter 调用 LLM 生成个性化电话话术。它需搭配 SegurSEO-API ≥ 4.0.0 和 Python 3.13+，用于联系网站质量差（无 HTTPS、缺 SEO、过时）的商家推销改进服务。

  6. GitHub · 去对齐工具与仓库63

    mcp-guard 开源：对 MCP 服务器发真实对抗 payload 的模糊测试工具

    Zion-sewers 在 GitHub 开源 mcp-guard，一个对 MCP 服务器做安全模糊测试的 Python 工具，通过 stdio 启动服务器、按 inputSchema 生成对抗 payload 并把响应分类为 SAFE/FINDING/CRASH。共 6 类探测（shell 注入、SSRF、溢出、类型混淆、prompt 注入、间接注入），string 参数发 29 个 payload、URI 参数 37 个；对官方 server-memory 发 91 个 payload 发现 41 项问题，对 server-filesystem 发 490 个发现 24 项，支持 JSON/SARIF 输出接入 CI，零外部依赖，Python 3.11+ stdlib 实现。

    推荐理由：工具直接用真实对抗 payload 对 MCP 服务器做动态模糊测试，README 附官方服务器的实测数据和用法，方法可以照搬进自己的 CI。

  7. GitHub · 去对齐工具与仓库72

    开源库 figured 发布：对 LLM 回答中的数字和 Agent 工具调用参数做无参考溯源检查

    GitHub 开源库 figured 发布，提供两类无参考、确定性的在线评测，对每个回答的数字和每次工具调用参数溯源，单次检查约 150 µs、每次工具调用约 25 µs（p99 0.19 ms），零依赖、无模型调用，Python 3.10+，pip install figured 可装。库支持 before_call 的 allow/warn/block/confirm 四种裁决、来源规则限制值只能来自指定通道（可拦下间接提示注入类载荷）、重复调用与预算检查，并能重放 OpenAI、Anthropic、Gemini、Bedrock、LangChain 及 tau-bench、AgentDojo 等格式的记录用于离线评测和 CI。

    推荐理由：原文给出基准实测数字、延迟数据和局限清单，读者可据此判断这套无参考确定性检查是否适合接入生产流量。

  8. GitHub · 去对齐工具与仓库52

    pmarreck 发布 llmsend：基于 Herdr 的跨项目 Agent 持久消息技能

    pmarreck 在 GitHub 开源 llmsend，一个中立于具体 Agent 的技能，用带 schema 版本的 frontmatter Markdown 文件在 Herdr 管理的项目之间实现持久消息传递，支持本地和跨 Tailscale，附 Claude 与 Codex 适配器。每条消息写入收件方项目 inbox/ 目录；Claude 的会话级插件监视器通过应用通知通道唤醒空闲 Agent，UserPromptSubmit 与 PostToolUse 钩子提供待读路径上下文；可选的 --wake 功能在验证空提示符后经终端唤醒空闲的 Codex、Grok 或 Claude，会避开人类草稿并记录尝试防止重复发送，附 --dry-run 只读检查与 ./test 测试。

  9. GitHub · 灵魂体仓库61

    IdeaForge 开源：浏览器内访谈工具把模糊想法锻造成可用的 LLM 提示词

    jaypetez 发布 IdeaForge，一个纯浏览器运行的访谈工具，通过一次一问的方式把半成形想法追问成可直接使用的 LLM 提示词，无需账号或应用服务器，API key 加密存于本地 IndexedDB。工具追踪七个维度，只有当模型能逐字引用你的原话时该维度才算覆盖，软上限 18 问、硬上限 25 问；支持语音访谈、Groq/Anthropic/OpenAI/OpenRouter 或 Ollama/LM Studio 本地模型，可经 Docker（ghcr.io/jaypetez/ideaforge）部署，代码 MIT 许可。

  10. GitHub · 去对齐工具与仓库58

    FeirAI 开源 Vultrino 凭据代理，让 AI 智能体用凭据而不见凭据

    FeirAI 在 GitHub 开源了 Vultrino，一个面向 AI 智能体的凭据代理，向智能体只暴露凭据别名和操作面，在可信连接器内部注入真实认证。它支持 API key、Basic Auth、OAuth2 自动刷新、SSH 和 Postgres 等凭据类型，提供 RBAC、作用域 API key、单次/限时 Use Tokens、人工审批（管理面板、Telegram、webhook/email）、MCP 原生集成、按量计费的 LLM 代理、AES-256-GCM 加密存储、策略引擎与审计日志，并支持 WASM 插件扩展；项目用 Rust 编写，提供源码构建、二进制发布与 Docker 镜像。

    推荐理由：原文完整给出了让 AI 智能体使用凭据而不接触明文密钥的代理架构与功能清单，读者可以按需评估是否引入这套隔离方案。

  11. GitHub · 去对齐工具与仓库56

    shortlist-ai 开源：基于 LLM 的证据可查、匿名盲评简历筛选工具

    vinayvobbili 在 GitHub 开源 shortlist-ai，用 LLM 对简历做证据可查的盲评排序，每个判断引用简历原文并由代码核验，评分权重公开可审计。工具支持 Anthropic API 和 Apple Silicon 本地 MLX 两种后端，含隐藏 PDF 注入文本检测、代码累加工作年限、反事实姓名公平性测试，并用多组 held-out 合成评测集（NDCG 等指标）迭代修正打分规则。

    推荐理由：作者用盲化简历、代码核验引文和反事实公平性测试来回应AI筛选的可审计问题，方法可迁移到其他LLM评分场景。

  12. GitHub · 灵魂体仓库66

    Ordnung开源发布，用Claude加规则引擎管理德国信件期限

    ahmedEid1在GitHub发布Ordnung，一个本地运行的德国信件私人秘书工具，由Claude读取信件内容，确定性规则引擎计算法定期限并给出带引用的推算依据，绝不自动付款或取消。基准测试显示纯模型算期限仅82.1%准确且7.1%危险偏晚，Ordnung管线在三个后续held-out测试集合计97.0%、偏晚率接近零；Ask问答44题全部正确、注入文本零泄露。需要Python 3.11+和付费计划的Claude Code 2.1.0+，支持手机配对、加密备份和作为MCP工具供Claude Desktop调用。

    推荐理由：README给出了流水线与纯LLM、规则文本等多条件基准对比，展示了模型读取加确定性规则引擎的架构取舍，方法可迁移。

  13. GitHub · 去对齐工具与仓库34

    ady95/security_tutorial：从黑客基础到 LLM·AI Agent 安全的配套示例代码仓库

    GitHub 上的 ady95/security_tutorial 是韩文图书《AI 时代的 IT 安全实践——从黑客基础到 LLM·AI Agent 安全》的示例代码仓库，内含故意保留漏洞的学习用代码与配置。仓库按章节组织，涵盖网络与系统黑客、Web 黑客、Cloud·Container·供应链安全（gitleaks·Semgrep·Trivy 流水线）及安全 AI Agent（Sandbox 容器与工具调用策略引擎），要求在隔离的 Docker 环境中运行，需 Docker、Git、Python 3.10 以上，推荐 16GB 内存，默认搭配 Ollama，也可选用 OpenAI API。

  14. GitHub · 灵魂体仓库37

    Gerardo Tradito AI 红队作品集：用 Aegis 框架对商业 LLM 做黑盒攻击审计

    独立 AI 红队研究员 Gerardo Tradito 发布 Aegis 框架作品集，通过黑盒审计对商业 AI 系统与 LLM 助手模拟真实对抗攻击，无需源码即可证明模型安全缺陷。包含 3 个 PoC：营养 Bot 假设角色扮演攻击（OWASP LLM01/LLM02）、客服 Bot 权威冒充致系统提示词泄露（OWASP LLM06）、电子产品零售 Bot 游戏化越狱与内部逻辑提取，目标身份已按负责任披露原则匿名化。

  15. GitHub · 去对齐工具与仓库59

    GabrieleBosi 开源 linea 钢梁报价原型，四个 LLM 步骤全程配评测与人工审批

    GabrieleBosi 发布了面向虚构钢梁厂商 Ferralba Steel 的 linea 原型，把客户邮件到可执行订单拆成十三个步骤，其中四个 LLM 步骤带 schema、代码检查和人工审批，每条请求行分商业与技术两条状态轨。作者用 gemini-3.8-flash 跑了三轮评测，质量用例通过率最高 100%，攻击全部拦截，并复盘了两起判分与提示词导致的失败及修复。公共 demo 在浏览器内回放录制输出，无需注册和 API key。

    推荐理由：作者把报价流程拆成四步 LLM 步骤并配对抗评测，还复盘了两处判分与提示词的失败细节，方法可迁移。