跳到正文
10月9日周五
  1. GitHub · 去对齐工具与仓库67

    skabo42000 开源 synq-ai-squad 四智能体营销内容系统并附评估数据

    作者开源了 Synq Logic 自用的四智能体系统(Manager、Researcher、Writer、Critic),基于 LangGraph、Gemini 和 FastAPI,仅用公司自身文档撰写营销内容并用带"陷阱"请求的 26 案例评估集测量捏造事实的泄漏率,结果显示 0 起捏造泄漏、0 起注入攻击,3 个失败均为软性夸大且仅被独立裁判(Groq gpt-oss-120b,经校准 97% 准确率)捕获。系统采用 RAG 加纯代码规则加独立裁判三层把关,路由对比显示便宜档 Gemini 3.1 Flash-Lite 在该数据集上 26/26 全过,成本约 $0.004 每轮。项目用 Claude Code 结对开发,MIT 许可发布于 GitHub。

    推荐理由:作者完整公开了一个多智能体内容系统的实测评估数据,包括陷阱用例设计和逐轮迭代结果,可作为搭建可验证 Agent 工作流的参考做法。

  2. GitHub · 去对齐工具与仓库68

    RentScout:每天早上自动侦察西雅图租房的有界工具调用 Agent 开源

    tywangq 在 GitHub 开源了 RentScout,一个有界的工具调用 Agent,每天早上从 RentCast 拉取西雅图真实房源,记住已看过的房源、按用户偏好打分并对最优候选调用通勤和价格历史工具调查,所有预算在代码中强制执行。项目用 gpt-4.1-mini 做了注入评测:模型直接打 0-10 分时,房源文本要求打 10 分会三次中有两次得逞;改为模型只给判断、代码计算分数后 25/25 全部通过。线上运行还发现并修复了冷启动烧满 $0.05 预算、共享房小房间得 10/10、HTTP 状态行解析崩溃等问题,每项都有回归测试;结果页面由 GitHub Actions 每天重建,LeaseHound 则是单文档固定管线的对照设计。

    推荐理由:作者用真实房源跑通了一个受预算约束的工具调用智能体,还给出注入评测和线上事故的回归修复,方法可以直接借鉴。

  3. GitHub · 去对齐工具与仓库39

    LLMGuard:本地 RAG 安全防护开源项目,内置提示词防火墙与 Qwen3 1.7B 本地模型

    LLMGuard 是一个本地 RAG 安全演示项目,包含提示词防火墙、检索内容防火墙、语义检测、训练好的 ML 分类器和 FAISS 检索,官方本地模型为 Ollama 上的 Qwen3 1.7B。项目采用 FastAPI、Jinja 和原生 JavaScript 构建认证控制台,提供仪表盘日志、文档上传与 RAG 摄入支持,登录仅支持管理员账号密码,登录接口 POST /auth/login 保持不变。

  4. GitHub · 灵魂体仓库36

    LLM 应用安全与红队实战靶场:Prompt Injection Labs 项目详解

    GitHub 上的 LLM-Application-Security-Prompt-Injection-Labs 仓库记录了对 LLM 及其 Web 应用的实战红队测试,所有发现按 OWASP LLM Top 10 分类。内容包括 PortSwigger 4 个靶场(过度代理、命令注入至 RCE、间接提示词注入、不安全输出处理至 XSS)、Lakera Gandalf/Agent Breaker 多级挑战(Solace AI、Cycling Coach 等已全部通关至 L3),以及 TryHackMe 的 LLM 部署渗透测试方法论。公开文档只写攻击面、技术类别和业务影响,利用 payload 保留不公开。

  5. GitHub · 去对齐工具与仓库57

    GERARDOBR01 发布门店销售楼层手册问答助手 Asistente-de-piso

    Liverpool 视觉陈列员 GERARDOBR01 在 GitHub 发布单页应用 Asistente-de-piso,供门店楼层员工用手机查询陈列与装配手册,回答时引用手册具体页码、声明置信度并在无证据时回答不知道。无 API key 时用本地 BM25 检索完全离线运行,实测 186 道真实楼层问题首三命中 166(89%)、手写错字下仅 6 题无答案;带 key 模式对 30 本真实手册的 118 道无答案问题答「不在此手册」117 次,并内置拍照核查陈列的工具,全程测量色彩、排面、三角陈列与高度。

    推荐理由:作者以大量实测数据展示了一个离线可用的门店陈列问答工具如何防数字幻觉,方法可迁移到同类检索场景。

  6. GitHub · 灵魂体仓库56

    secure-voice-agent 开源:带确定性安全防护层的电话 AI Agent

    coreymathie 开源 secure-voice-agent,一个可接听电话、收款并写入业务系统的语音 AI Agent,在模型与所有工具之间放置确定性防护层:默认拒绝的允许列表、社工风险评分、向档案号码发送一次性码的 step-up 验证、限速、PII 清洗、哈希链审计日志和幂等签名请求。技术栈为 Pipecat 1.x、Twilio Media Streams、OpenAI Realtime(或 Claude+Deepgram+ElevenLabs、Gemini Live)、AWS Lambda 与 Fly.io。

    推荐理由:原文把每个安全控制的代码位置、对应测试和失败模式都列了出来,读者可以直接复用这套在模型外做确定性防护的方法。

  7. GitHub · 灵魂体仓库38

    GrizzDog-AI:Butler 社区学院的 LLM 安全教学实验项目

    Butler 社区学院(Andover 校区)网络防御教师开发的 GrizzDog-AI 是一个独立学术研究与教学用的 LLM 安全实验沙箱,2026 年 10 月更新后全部 27 个基准攻击向量已映射到 OWASP LLM01–LLM07 与 MITRE ATLAS AML.T0051–AML.T0057,并对齐 NSA/DHS CAE-CD 课程知识单元。项目围绕 4 个校园角色(机器犬哨兵、助教、Canvas 评分器、注册主任)提供 6 类红队任务和 4 级难度递进的防护版本,新增 `batch_grade.py` Canvas 批量评分器(含 HMAC-SHA256 签名校验)与一次构建全部 18 个模型的 `build_models.py`。

  8. GitHub · 灵魂体仓库56

    ChunkyTortoise/docextract 开源:双阶段 Claude 提取管线把 PDF 发票账单转为可搜索结构化记录

    开源项目 docextract 将发票、收据、银行流水等 PDF 或扫描件转为经过校验、可搜索的结构化记录,采用 FastAPI、双阶段 Claude 提取管线、pgvector 与 Agentic RAG。每次触及提示词或提取器的 PR 会对 28 个提交的预测 fixture 做离线重放评分,加权字段级得分 95.5%,低于 0.85 底线或较基线下降超过 0.03 时 CI 失败;离线重放不重跑提取器,提示词与模型回归需依赖配置 API key 后的付费实时评测。项目另含 200 例评测编写语料、20 份 ADR、提示词注入防御与 PII 脱敏,MIT 许可。

  9. GitHub · 去对齐工具与仓库35

    TalentEngine-AI:开源的技能优先招聘评估 ATS

    开源项目 TalentEngine-AI 提供技能优先、隐私优先的候选人评估,用仓库、报告、作品集等实际成果取代关键词与学历筛选,且不设自动拒绝路径,由具名人工做决定。学历默认只占 10%、上限 25%;身份先匿名化,人决定后才解密。文档公布全部实测数据:30/30 已知提示词注入攻击被标记、0 误报,但未见攻击仅拦截 1/10,故采用架构级限制兜底;架构含 Legal Shield、Budget Funnel、Universal Translator、HR Dashboard 四个密封模块,AI 成本以本地优先、仅证据最密的前 5% 走商业模型。

  10. GitHub · 去对齐工具与仓库46

    LLM-Safety-Guardrail-API:面向 LLM 应用的安全防护网关微服务

    开源项目 LLM-Safety-Guardrail-API 是一个异步 FastAPI 微服务,在上游 LLM 推理前检查输入,提供 prompt injection 与越狱正则检测、PII 自动脱敏和可配置 strict mode。基于预编译 regex 实现低于 5ms 延迟(示例请求 latency_ms 为 1.42),支持本地 uvicorn 运行和 Docker 部署,并暴露 POST /v1/guard/inspect 接口。

  11. GitHub · 灵魂体仓库55

    latitude-dev 发布 PromptL 动态提示词语言

    latitude-dev 发布 PromptL,一种用于为 LLM 定义动态提示词的通用语法,可通过 npm 安装 promptl-ai。它用更可读的类配置语法替代传统 JSON 消息结构,支持 {{ country_name }} 等变量实现动态生成,并借助带 RPC 的 WASM 模块提供 Python 等官方绑定,不丢失原有结构的功能。

    推荐理由:官方介绍了 PromptL 的语法设计和动态变量写法,读者可以对照传统 JSON 提示词结构评估其可读性和适用场景。

  12. GitHub · 去对齐工具与仓库9

    AI-Agents:用 AI 智能体搭建完整软件团队的 Windows 入门指南

    AI-Agents 是一个面向 Windows 用户的指南型项目,帮助搭建由多个 AI 智能体组成的软件团队,让不同智能体分别负责任务规划、代码编写和变更审查。它支持 Claude、OpenAI 等 LLM 服务,以及基于 MCP 的工具调用,用户需自备相应服务的 API key。项目强调无需深厚技术基础,适合小项目、原型开发和引导式编码任务。

  13. GitHub · 灵魂体仓库54

    honestapply 开源:本地运行的求职申请 Agent,杜绝简历造假

    开发者 Shardul Kulkarni 开源了 honestapply,一个本地运行的求职申请 Agent,覆盖职位发现、评分、简历定制、求职信生成到表单提交全流程。防造假是硬约束而非提示词请求,resume_facts 中的事实经子串校验,不匹配则重试一次后转人工;安全设计包括每日默认 25 次提交、不可覆盖的 50 次硬上限、同域提交间隔 ≥90s ±30s、三重去重、CAPTCHA 转 needs_human 队列,状态存于本地 SQLite,支持 Ollama、LM Studio、vLLM 等本地推理和 Claude Code + Playwright MCP 的浏览器申请。项目采用 AGPL-3.0-or-later 许可并提供商业授权,作者同时提醒职位板自动化与多数网站 ToS 存在灰色地带。

  14. GitHub · 灵魂体仓库53

    kkcyber2 开源 Bounty Machine 漏洞赏金工作流框架

    kkcyber2 在 GitHub 开源了 Bounty Machine(bountymode),一个授权优先的漏洞赏金工作流框架,不自己实现攻击,而是通过默认拒绝的授权门编排安全测试,输出可提交的 HackerOne / Bugcrowd 格式报告。框架内置 ai_llm(19 项技术,含 prompt injection、jailbreak、RAG poisoning 等)、web_api、cloud、cicd 四个域,支持真实 CVSS v3.1 打分、证据脱敏哈希链存储、N-of-M 复现验证、指纹去重,新增域只需写一个 adapter;默认 dry run,破坏性技术无条件拦截,需 Python 3.9+,核心零运行时依赖,MIT 许可。

10月8日周四
  1. GitHub · 去对齐工具与仓库56

    Wirken 发布面向企业 Agent 的安全网关开源仓库

    gebruder 在 GitHub 开源了 Wirken,一个面向自主 Agent 的企业网关,以单个静态 Rust 二进制分发,MIT 许可。网关将 Telegram、Slack、Teams 等消息渠道接入 Agent,核心假设 Agent 本身不可信:凭据保存在加密 vault 中不进入模型上下文,每个动作执行前写入哈希链审计日志,默认最低权限,shell 命令在无网络的临时容器沙箱中运行,且按 Agent 设置支出预算。模型连接不绑定厂商,可接 frontier API、Ollama 本地权重或欧盟托管端点。README 明确列出已知局限,包括出口流量未完全隔离、沙箱可关闭、注入检测只标记不拦截、权限按 Agent 而非按用户生效等。

    推荐理由:该仓库写明了权限模型、沙箱与审计的实现边界,并列出逃逸开关和已知局限,方便读者评估这类企业 Agent 网关的适用场景。

  2. GitHub · 灵魂体仓库30

    JP-BX/AI-LLM-Security-Testing-Lab:基于 Qwen3:8B 的提示词注入攻防实验项目

    一个开源实验项目用 Python 和 Ollama 本地部署的 Qwen3:8B 模型构建了易受攻击的模拟应用 SecureBot,并开发提示词注入检测层,通过 `security.py` 拦截恶意请求并记录到 security.log。项目共设 11 个自动化测试用例,覆盖良性提示、误报和检测绕过尝试,最终全部通过,在定义测试集上准确率 100%。作者强调该结果仅针对选定提示词,基于关键词的过滤是教学原型,不能替代生产级 LLM 安全防护。

  3. GitHub · 去对齐工具与仓库41

    agent-mesh-demo:用 Solo 版 Istio 演示 AI Agent 认证后的授权控制

    GitHub 上的 agent-mesh-demo 项目展示服务网格如何补足 AI Agent 认证之后的授权问题,包括可调用哪些工具、代表谁、经哪些 Agent、模型 token 预算和可发给模型的数据。Demo 基于 Solo 版 Istio ambient 模式运行,Solo Enterprise for agentgateway 作为同一控制平面上的 waypoint,无 sidecar、Agent 内无安全代码。

  4. GitHub · 去对齐工具与仓库51

    0xv3nm09 开源 rca-warba 企业银行客户关系交接 AI 原型

    0xv3nm09 在 GitHub 发布 rca-warba,一个面向 Ignyte by DIFC × Warba Bank Corporate Banking AI Challenge Track 2 的智能关系交接原型,维护带来源引用的客户关系档案并要求每项关键事项有负责人和日期后才能完成交接。原型强制五条规则,包括模型不决定状态、不可信文本只作数据并标记注入、数字从结构化字段复制;合成数据上实测数字精确率 100%、关键事项召回 7/7、跨组泄漏和注入成功均为 0,附 51 个自动化测试与 hash 链审计日志,支持 docker compose 一键启动并可选接入 Groq 或 Ollama 本地模型。

  5. GitHub · 去对齐工具与仓库49

    GitHub 开源 n8n 邮件与工单智能分流工作流,用 GPT-4o-mini 自动分类并路由客户支持邮件

    GitHub 上的 alvintnw/Intelligent-Email-and-Ticket-Triage 项目提供了一个纯 n8n workflow 构建的客户支持工单自动分流系统:进入 Gmail 的邮件由 OpenAI gpt-4o-mini(temperature 0)分析类别、紧急度、情感、语言、摘要和回复草稿,记录到 Google Sheets 并通过 Telegram 通知对应团队。critical 工单直接升级给经理,confidence 低于 0.6 进入人工分流队列;第二个 workflow 每 15 分钟监控 SLA(critical 1 小时、high 4 小时、medium 24 小时、low 72 小时)并升级逾期工单,无需自建 backend。

  6. GitHub · 灵魂体仓库42

    scadastrangelove/awesome-ai-security-tools:AI 安全与 AI 辅助网络安全工具精选清单

    GitHub 仓库 scadastrangelove/awesome-ai-security-tools 收录了 AI 安全与 AI 辅助网络安全领域的开源、研究和商业工具,覆盖安全发现自动分诊、AI Agent 安全、AI/ML 供应链、渗透测试 Agent、AI SAST、LLM 红队测试及 SOC/SIEM 分诊等类别。清单用 🟢🔬🟠⚠️ 标注许可证状态,并提供脚本刷新 GitHub star 数据,最近一次刷新为 2026-10-08。收录项目包括 Arm 的 Metis、腾讯朱雀实验室的 AI-Infra-Graf(★ 6,789)等。

  7. GitHub · 灵魂体仓库65

    duki-core/llm-output-guard 开源:面向本地 LLM 应用的轻量输出防护库

    duki-core 在 GitHub 发布 llm-output-guard,一个厂商无关的轻量库,针对本地/自托管 LLM 应用的四类安全问题:系统提示词泄漏、文本标记与结构化 tool call 的未授权动作执行、以及经 RAG 内容的间接提示词注入。库内含 PromptLeakGuard 三层检测(字符串匹配、嵌入相似度、LLM judge)、ActionGate 用户确认门控、context_guard 输入清洗和 ToolCallGuard 结构化调用校验,作者从基于 LM Studio 的本地聊天伴侣项目中抽出,MIT 许可,并明确说明这是启发式纵深防御而非正式安全保证,流式与 async 支持尚未实现。

    推荐理由:这个开源库把系统提示词泄漏、幻觉动作执行和间接注入拆成四类问题,并诚实列出了每层防御的失效条件,方法可直接迁移到本地 LLM 应用。

  8. GitHub · 灵魂体仓库59

    LLM-Agent-Firewall-MAPI-6K 仓库发布可复现的多智能体提示词注入检测实现

    sushant-me 在 GitHub 发布了论文《LLM Agent Firewall》的可复现实现,包含 6,000 条确定性智能体间消息语料、亚毫秒级 TF-IDF + 逻辑回归分类器,以及置信度校准的两层路由,仅升级不确定流量给语义判官。在 CPU 上约一分钟跑完全部核心结果,无需 GPU、API 密钥或网络。实测 Strata I+II held-out 准确率 1.000、0 误报 0 漏检,分类器平均延迟 0.333 ms,5% 隐蔽攻击占比下混合延迟 271.5 ms(比全部走判官快 19.9 倍)。

    推荐理由:作者复现了论文的多智能体提示词注入防火墙方法,还披露了语料格式混淆这类基准设计陷阱,做法对自建评测的人有参考价值。

  9. GitHub · 去对齐工具与仓库43

    gbmeello 发布 Itaú LLM 技术案例的 Python/FastAPI 版本:用 Claude 构建可控的采购审批智能体

    gbmeello 开源了 Itaú 技术案例的 Python/FastAPI 实现:一个采购审批服务,接收不完整或有恶意注入的请求,经确定性规则引擎、Claude Sonnet 5.5(分析)与 Claude Haiku 4.5(合规)及代码校验器,输出 APPROVE、REJECT、ESCALATE_TO_HUMAN 或 NEEDS_INFO 等可审计决策,支持直连或经 MCP 消费 ERP。项目含 59 个 pytest 测试和 34 案例/37 轮 golden set 评测,准确率、schema、grounding 均 100%,默认用确定性模拟 LLM 运行、无需 API key,另有架构相同的 Java/Spring Boot 版本。

  10. GitHub · 去对齐工具与仓库60

    AgenticInvestingEngine:面向 Borsa İstanbul 的多智能体投研系统开源

    作者开源了 AgenticInvestingEngine,一个针对 Borsa İstanbul 的多智能体研究系统,由一个 supervisor 智能体调度技术面、新闻风险、土耳其宏观和公司公告四个专项智能体并撰写报告。系统通过 MCP 对外提供八个工具,Claude Desktop 和 Cursor 可直接调用;防护措施包括对第三方文本的英文和土耳其语注入筛查、报告数值与工具数据的核对及免责声明,测试中检出全部 19 个攻击样本、误报 12 条正常句子中的 0 条。每次完整分析约 15,800 tokens、11 次 LLM 调用,支持 Groq 或本地 Ollama,采用 MIT 许可,仅供研究教育用途。

    推荐理由:这个多智能体投研引擎给出了注入筛查、数值溯源和红队评测的具体数据,对想做带防护的 Agent 系统的人有可借鉴的工程做法。

  11. GitHub · 去对齐工具与仓库58

    ronybarua-ethical18 开源 nl-database-agent:自然语言查询 Postgres 的自纠错 Agent

    作者开源了 nl-database-agent,用自然语言查询 Postgres,Agent 生成 SQL 后以只读事务执行,失败自动重试最多 3 次,并给出解释、表格和图表,演示地址 nl-database-agent.vercel.app。安全上采用静态 SQL 守卫、READ ONLY 事务和只读角色三层独立防护,拒绝改写数据并在 schema 无法回答时明确拒绝而非编造。评测基于 43 题黄金数据集,按执行结果集而非 SQL 文本判分;作者实测发现 Llama 3.3 在拒绝类问题上仅得 2/5 而 Gemini 得 5/5,因此 CI 门禁改为与应用同模型。

    推荐理由:这个开源自然语言数据库 Agent 展示了三层只读安全设计,以及用结果集对比替代 LLM 评审的确定性评测方法,可直接迁移。

  12. GitHub · 灵魂体仓库32

    Glazounov-AI 开源 ab-prompt-test:用 n8n 和 GPT-4o mini A/B 测试系统提示词对幻觉的影响

    Glazounov AI Lab 发布 ab-prompt-test 项目,用 n8n、OpenAI GPT-4o mini 和 Google Sheets 对比两个系统提示词方案。在 25 条测试请求上,带“仅用请求内信息、不足时追问”约束的 Prompt B 平均相关性达 4.68/5(Prompt A 为 3.08/5),幻觉回答比例从 48% 降至 4%。作者指出样本较小、仅测一款模型,结果需在更大规模数据上进一步验证。

  13. GitHub · 灵魂体仓库29

    Modeq:基于 GenLayer 智能合约的可公开审计内容审核注册表

    Modeq 是一个基于 GenLayer 智能合约的公开内容审核注册表,由 5 个验证者节点独立运行 LLM 分类,仅当多数节点对 decision 和 primary_category 达成共识时才写入链上。分类阈值(置信度高于 70% BLOCK、高于 40% FLAG、其余 ALLOW)以合约常量写死,模型输出须经 Python 结构校验。项目已部署在 GenLayer Studio、Asimov 与 Bradbury 测试网,提供无门槛公共审计日志,4 次提示词注入等攻击均被判定为 spam 并 BLOCK。

  14. GitHub · 去对齐工具与仓库63

    mcpgawk 开源:本地拦截 MCP 服务器批准后变更工具的安全网关

    gawk-dev 发布开源工具 mcpgawk,读取 Agent 可达的 MCP 服务器,将每次调用与已批准的基线比对,拦截批准后悄悄变更的工具,全程本地运行、不上传数据。工具提供 pre-execution 拦截(约 10ms 本地决策,支持 21 个客户端中的 6 个)、沙箱实测工具行为(数据外传、SSRF、tool poisoning)、token 成本索引和完整性哈希追踪;另有付费的 mcpgawk Platform 提供 enforce 与 monitor,CLI 可通过 uv 或 pipx 安装,支持 GitHub Action CI 门禁,采用 Apache-2.0 协议。

    推荐理由:针对 MCP 服务器批准后悄悄改工具的 rug-pull 问题,给出了本地拦截、沙箱实测和零外传的具体做法,方法可直接迁移。

  15. GitHub · 灵魂体仓库50

    Shan091/sales_agent:在 WhatsApp 上自主完成智能家居销售的智能体

    Shan091 在 GitHub 开源的 sales_agent 项目,是一个能在 WhatsApp 上独立完成智能家居销售全流程的智能体,基于真实商家 Otohom 的产品目录,用 RAG 回答技术问题、推荐追加销售、生成订单并创建 Razorpay Payment Link,Razorpay 目前运行在 test mode,不涉及真实资金。架构采用 FastAPI 网关、LangGraph 编排、PostgreSQL + pgvector 混合检索和 BAAI/bge-m3 嵌入,模型为通过 OpenRouter 调用的 Gemini 2.5 Flash / Flash-Lite。

  16. GitHub · 灵魂体仓库42

    PositronicKit:面向智能体应用的可嵌入 Swift 运行时

    PositronicKit 是一个用于构建智能体应用功能的开源可嵌入 Swift 运行时,稳定版本为 6.1.0,要求 Swift 6.4,面向 macOS 15 和 iOS 18。它提供与传输无关的编排、结构化提示词组合(PKPrompt)和 provider 无关的 Turn 契约,核心能力值包括 model、timelines、agents 和 workspaces。适配器支持 OpenAI、OpenRouter、Ollama、Anthropic 和 Apple Foundation Models,通过 Swift Package 以 semver 方式添加依赖。

  17. GitHub · 灵魂体仓库58

    DevProjex 发布:把代码库转成可控 AI 上下文的跨平台工具

    Avazbek Olimov 发布 DevProjex,可将任意代码库转换为干净的 AI 上下文,提供 GUI、TUI、CLI 和内置 MCP 服务器四种方式,获 Avalonia UI 团队 App Showcase 入选。工具支持导出 ASCII、Markdown、JSON、XML,或导出应用同样过滤规则的文件夹/ZIP 副本;基于 Tree-sitter 的代码压缩在自身 619 个 C# 文件上把上下文从 5.4 MB 压到 1.7 MB,约缩小 3 倍。

    推荐理由:这是开发者自己发布的工具,原文讲清了代码压缩、密钥掩码和 MCP 安全边界的具体实现,方法可以迁移到自己的 AI 上下文工作流。

  18. GitHub · 去对齐工具与仓库55

    Probagent 开源插件式 LLM Agent 数据质量测试工具

    开发者 Abin-Biju-Offl 在 GitHub 发布 Probagent,一个测试 LLM Agent 及其数据的工具,首期功能是数据质量检查器。它支持上传 CSV 或从 REST API 拉取 JSON(401/403 时可通过 JWT 重试),按 JSON 规则集逐行检查,也可从样本 CSV 自动生成规则;演示数据中检出 13 个问题。其 data guard 可接入 LangGraph ToolNode,在数据到达模型前按 block/warn/filter 策略处理坏数据,模型只能看到问题计数和列名而非原始值以防提示词注入,检查结果写入运行日志并可用 probagent explain 查询。限制为单文件 10 MB、50000 行、200 列。

    推荐理由:这是一个可直接部署的开源数据质量检查工具,还提供 LangGraph 集成,能在脏数据进入模型前自动拦截。

  19. GitHub · 灵魂体仓库32

    Torvi 架构开源参考:面向印度住宅小区的 WhatsApp 优先 AI 助手

    Torvi 是一款面向印度住宅小区的 WhatsApp 优先 AI 助手,基于 AWS Serverless 与 Amazon Bedrock Agents(Claude Haiku 4.5)构建,住户可用英语、印地语、泰卢固语或混合语言查询费用,无需 App 和登录。该仓库公开架构设计、安全模型与决策记录,LLM 从不做授权决策,写操作仅在带认证的管理后台完成。试点为一个海得拉巴 11 户小区,自 2026 年 4 月上线,数据全部留在 ap-south-1(孟买)区域。

  20. GitHub · 灵魂体仓库61

    haa-llm-securitypro 开源:让大模型在作答前先做置信评估以抑制高置信错误

    GitHub 用户 unbelievablejohn 发布 haa-llm-securitypro 原型,让模型在生成答案前先输出置信分,低分直接拒答,高分答案再由异厂商模型(智谱 GLM 主答、DeepSeek 验证)独立核对并做程序层实体比对。在 54 条自建样本上,验证层把 confident-wrong 从 7 条降到 1 条,减少 86%,过度拒答保持 1 条未增加。项目还给出置信分实为非连续刻度(30 到 88 之间无样本)、智谱 GLM 置信分波动是 DeepSeek 的 9 倍、ECE 达 33.1%、20 条 Red Team 对抗用例被攻破率 10%、以及 790 题 TruthfulQA 外部验证等结果,并附完整代码与各评测报告。

    推荐理由:项目用对照实验和重复测量量化了模型自报置信分的失真,验证层对高置信错误的削减有数据支撑,方法可迁移到自建检索或作答流水线。

  21. GitHub · 灵魂体仓库63

    Secretless v0.23.1 开源:让 API 密钥对 Claude Code、Cursor 等 AI 编码工具不可见

    OpenA2A 开源了 Secretless,一个防止 AI 编码工具读到 API 密钥的 CLI 工具,当前版本 v0.23.1,采用 Apache 2.0 协议。它扫描项目中的硬编码凭据(57 种模式)并迁移到 OS keychain、1Password、HashiCorp Vault、GCP Secret Manager 或 AES-256-GCM 加密文件;对 Claude Code 通过 PreToolUse 钩子和 18 条 deny 规则拦截读取凭据文件的工具调用,Cursor、GitHub Copilot、Windsurf、Cline、Aider 则仅靠指令文件约束。

    推荐理由:工具README讲清了钩子门控与输出检查两类防护的边界,连防不住的暴露通道也明说,适合评估AI编码工具的密钥防护方案。

  22. Reddit · r/LocalLLaMA53

    DeepSeek V4.1 Flash 在小型实测中胜过 Haiku 5.5 的研究子智能体与标题任务

    /u/dergachoff 用 4 个真实 brief 和 52 条消息对比 Haiku 5.5 与 DeepSeek V4.1 Flash,后者经 OpenRouter 以至少 8-bit 精度运行。研究子智能体任务中,Haiku 低档更快且便宜约 4 倍,但同样两个 brief 反复失败,例如始终找不到含精确 HEX 和 Pantone 色值的品牌 guideline 页面,高档 60 次工具调用也没找到;DeepSeek 低档耗时 721 秒、$0.35。聊天标题任务 DeepSeek 胜 28 对 8,Haiku 常把标题写成回答第一句,还把一条 prompt injection 测试消息当成了标题。评判由 Opus 盲评 A/B 双序完成,每组只跑一次,作者说明这不是大型基准测试。

  23. GitHub · 去对齐工具与仓库71

    abhirammv2000/agentic-devflow 开源半自主开发智能体框架,含风险分级审批与提示词注入防御

    作者开源了 agentic-devflow,一个半自主开发智能体框架,可做 issue 分诊、把 Jira 工单变成带测试的 PR、审查 diff 和更新文档,用 n8n 处理触发与人工审批、MCP 提供工具,模型可用 Claude 或通过 Ollama 自托管的开源权重模型。核心是风险分级策略:工具按 read/write/publish/critical 四级分类,超过 autonomy 上限的操作会暂停等待人工批准,合并永远需要人确认,未分类工具默认按 critical 处理。

    推荐理由:开源的半自主开发智能体框架,作者用7B模型实测了注入防御规则开关的前后差异,policy设计细节可直接借鉴。

  24. GitHub · 灵魂体仓库17

    zon-TS:省钱省心的 LLM 提示词工具发布

    GitHub 开源项目 zon-TS 上线,主打高效、低成本的 LLM 提示词使用方案,相比 JSON 或 TOON 等传统格式可节省 35-70% 成本。工具开箱即用,无需额外安装或编程技能,支持 Windows 10+ 和 macOS 10.12+,需 4 GB 内存和 100 MB 磁盘空间。用户可从 Releases 页面下载使用,支持通过 GitHub issue 反馈问题。

  25. GitHub · 灵魂体仓库26

    LLM 红队安全评估:用 NVIDIA Garak 测试 Anthropic Claude 模型

    该项目使用 NVIDIA Garak v0.17.0 对 Anthropic Claude 3.5 Sonnet(claude-3-5-sonnet-20241022)进行红队安全评估,共执行 943 个攻击向量,耗时约 2 小时,发现 0 个漏洞,缓解成功率达 100%。测试覆盖自适应越狱(200 向量)、ANSI 转义序列、API Key 提取及 700+ 编码绕过与注入探测,并按 OWASP LLM Top 10 框架整理 FINDINGS.md 与 ANALYSIS.md 等文档,附带 parse_garak.py 等分析脚本供复现。

  26. GitHub · 去对齐工具与仓库63

    voiceprint 开源:组合 humanizer 与 authenticity-check 的一次性 prose 真实性工具

    hannsxpeter 在 GitHub 发布 voiceprint,一个单一入口的 prose 真实性工具,将 humanizer(改写 AI 味文本)与 authenticity-check(只读诊断评分)按固定顺序各执行一次,不做迭代优化循环。工具包含无依赖的 scripts/text_hygiene.py,做确定性 Unicode 清理,按 Unicode Emoji 17.0 数据固定表保留 emoji 序列;policy 2(自 voiceprint 1.5.0 起)修复了 policy 1 曾破坏 40 个 basic emoji、全部 12 个 keycap 等序列的问题。

    推荐理由:原文讲清了一次性组合诊断与改写的流程设计和 Unicode 清理的确定性边界,读者可以评估这套 prose 工具的适用范围。