跳到正文
#安全/对齐
今天10月26日周一19 条
  3. GitHub · 灵魂体仓库65

    cfgaudit 开源：扫描 Claude Code 等 AI 编码助手配置的安全审计工具

    GitHub 上的 cfgaudit 是一个 AI 编码助手配置文件安全审计工具，首先支持 Claude Code，检查违反最小权限原则或暴露敏感文件的设置，每条发现映射到 OWASP GenAI LLM Top 10 2026，并提供 OWASP MCP Top 10、AISVS 1.01 和 AVE 行为分类的次级映射。支持 Homebrew、go install、预编译二进制和 Docker 安装，输出 JSON、SARIF 2.1.0 和 Code Climate 格式，可接入 GitHub Code Scanning 与 GitLab Code Quality。

  4. GitHub · 灵魂体仓库50

    Geloos/llm_benchmark：基于真实 MITRE ATT&CK 攻击日志的 LLM 提示词注入评测仓库

    GitHub 仓库 Geloos/llm_benchmark 将越狱提示词注入真实 MITRE ATT&CK 攻击日志，让本地 LLM（通过 Ollama 运行 gpt-oss:20b、llama3.1:8b、gemma3:12b）判断日志是攻击还是正常流量，以此计算攻击成功率（ASR）。每条日志都是真实攻击，模型给出"正常"判定即代表注入生效。实验含 plain、hex、--dovsdofs、--ob 四类，每轮用 5 个 seed（42–46）重复，比较低/中两档温度下的平均 ASR 与 95% 区间，plain 实验使用 10 个类别的 47 种注入。

  5. GitHub · 去对齐工具与仓库53

    LLMSecTest 0.4.0 发布：pytest 插件对运行中的 LLM 应用跑 OWASP LLM Top 10 (2026)

    wehnsdaefflae 发布 LLMSecTest 0.4.0，一个 pytest 插件形式的 LLM 安全测试工具，对运行中的端点执行 OWASP LLM Top 10 (2026) 全部十个类别的攻击探测，输出 CI 可读的 SARIF v2.1.0 报告。覆盖提示注入、敏感信息泄露、供应链、模型投毒、RAG 间接注入等，支持 JailbreakBench/AdvBench 红队集、CVSS v4.0 评分、CycloneDX SBOM，可离线读取 Chroma/FAISS 向量库检测嵌入反演与多租户隔离问题；当前为 pre-alpha，由德国 BMFTR 通过 Prototype Fund 资助（资助号 16IS26S10）。

  7. GitHub · 灵魂体仓库72

    keyroll 开源：一键查找并轮换本机所有 AI 供应商 API key 副本

    Blackman99 发布 keyroll（https://github.com/Blackman99/keyroll），离线扫描本机 Claude Code、Codex、OpenCode、shell 配置、.env 及备份中的所有 API key 副本，并通过各 issuer 的免费只读端点检查 key 是否仍有效（ALIVE/REJECTED）。keyroll rotate 只需粘贴一次新 key 即可重写所有生效副本并清除遗留副本，keyroll ci 可列出 GitHub Actions 中疑似供应商 key 的 secret 名称；工具只显示指纹和密钥末四位，绝不读取或输出密钥值，单一 Go 静态二进制、无第三方依赖。

    推荐理由：作者完整公开了工具的扫描范围、检查与轮换流程和不读密钥值的安全设计，读者可以据此评估是否把它用于管理本机散落的 API key 副本。

  8. Reddit · r/LocalLLaMA20

    求推荐：单张 RTX 5090 上最适合逆向工程、编程与红队的去审查/消除拒答本地模型

    Reddit r/LocalLLaMA 用户求助：在单张 RTX 5090（32GB VRAM）上寻找当前最适合逆向工程、编程和红队测试的本地去审查/消除拒答模型。需求以低拒绝率为首要，同时要求较强的逻辑推理与代码生成能力，覆盖反汇编、exploit 开发、渗透测试和工具编写。

  9. Reddit · r/LocalLLaMA39

    PSA：llama.cpp 曝出漏洞 CVE-2026-116096

    ggml-org llama.cpp 的 Pocket-TTS 组件存在越界写入漏洞：函数 list_pockettts_state_slots 中对参数 mmproj 的操作可触发堆越界写，攻击需本地访问，公开 exploit 已可用。升级到 b11796 可修复，恶意 mmproj 现在会触发 GGML_ASSERT 中止；但 PR #29360 的根治修复仍在开放中。

  10. GitHub · 灵魂体仓库31

    GitHub 仓库 who-put-this-here：写给 AI 智能体的约束与理解之辩

    GitHub 仓库「who-put-this-here」发布一篇面向人类与 AI 智能体的文本，核心论点是：规则由文字构成、总有边界可被绕过，而基于理解的约束没有可钻的空子。文章对比了智能体遇到约束时的两种提问——“如何绕过它”只会产生 bypass，“谁放在这里、他们看到了什么”则让系统能认同、修正或指出约束的错误。

  12. Reddit · r/LocalLLaMA16

    Swift 1.5 Qwen Flash Next IQ3XXS（GSQ RCO）Abliterated 版能否只下载变化的权重？

    一位 r/LocalLLaMA 用户在运行 Swift 1.5 Qwen Flash Next 的 GSQ RCO IQ3XXS 量化版本，但因模型偶尔拒答，想再准备一个 Abliterated 版本，仅在少数场景下使用。由于存储空间只剩不到 1TB，他询问能否只下载两个版本之间变化的权重并合并，避免完整双份下载。

  13. GitHub · 去对齐工具与仓库42

    Iago：开源 Python CLI 越狱与护栏绕过测试工具

    Iago 是一个 Python CLI 渗透测试工具，对自有模型批量运行 guardrail 绕过技术库，多轮重复试验并生成含加固建议的渗透式报告。每次测量给出 95% CI，提示词泄露按预埋密文评分，伪造历史攻击带安慰剂对照，还通过实际 tool call 测试 agent。默认目标是 Ollama，也支持经 --authorized 测试 Anthropic API。

  14. GitHub · 去对齐工具与仓库64

    Cloakroom 0.7 发布：为 Claude Code、Codex CLI 和 Gemini CLI 本地掩码密钥与个人数据

    Shanjeev Rajendran 发布开源工具 Cloakroom（Apache-2.0），在本地把 API 密钥、机密和个人数据（PII）替换成占位符后再交给 AI 编码代理，写入文件时在本地还原真实值。0.7.0 起在 Mac 和 Linux 上支持 OpenAI Codex CLI 和 Google Gemini CLI；实测对 1,005 条个人数据零泄漏，而对比的 Claude Code 隐私工具泄漏 119 至 992 条。真实值存于本机加密保险库，检测模型仅首次从 Hugging Face 下载一次（Mac 约 1 GB，其他平台最多约 4 GB），提供防篡改活动日志、dashboard 误报学习规则和面向金融团队的付款调用拦截与审计功能。

    推荐理由：原文给出与其他 Claude Code 隐私工具的横向实测数据，泄漏数和误报数都有对照，读者可据此评估是否值得在本地部署。

  15. GitHub · 灵魂体仓库42

    pelens：不执行文件的 Windows PE 静态分析工具，结合 LLM 生成恶意软件分诊报告

    pelens 是一款 Windows PE 静态分析工具，可解析 .exe/.dll/.sys 文件，提取 SHA-256、imphash、编译时间戳、节表熵值、RWX 权限、安全缓解措施（ASLR/DEP/CFG）及按能力分类的导入 API 列表，全程不执行目标文件。配套的 ai_analyzer.py 将解析出的 JSON 数据发送给 LLM，生成分诊报告：第一部分为确定性发现，第二部分为带置信度评级的 AI 解释。该脚本支持 OpenAI、Gemini、Anthropic、Groq、OpenRouter 及本地 Ollama 等多家模型服务。

  16. GitHub · 灵魂体仓库43

    Verdis 开源：在人类读取前自动复现安全报告的分诊工具

    开源工具 Verdis 在安全报告被人工读取前先自动复现问题：按报告声称的版本构建项目，在无网络的 rootless 沙箱中运行 proof of concept，并返回判定结果和带哈希的证据包。它以 Python CLI 和 GitHub Action 形式发布，需 Python 3.12+ 及 Podman 或 Docker，支持 C/C++（ASan/UBSan）、Go、Node 和 Python 构建。模型只起草运行计划，判定由 oracle 决定，最终决定权留给维护者。

  17. Reddit · r/LocalLLaMA22

    LocalLLaMA 用户寻找可检测间接提示注入的小型本地分类器（支持英德语）

    一位 Reddit r/LocalLLaMA 用户在构建本地 agent 系统（主 LLM 运行于 24 GB GPU），希望找一个在 agent 处理工具结果前快速筛查间接提示注入的分类器，支持英文和德文（含混合语言与 OCR 噪声文本），要求单条检测远低于 1 秒、可开源、阈值可调、误报低。其已尝试 Prompt Guard 2 86M、PIGuard 和 StackOne Defender，但尚无模型被验证对德语有效，正在征集模型推荐、微调数据集与防御 adaptive attack 的经验。

  18. Reddit · r/LocalLLaMA36

    Reddit 用户 OpenJev 竞技场：让 LLM 互相格斗还可发送心理攻击提示词

    Reddit r/LocalLLaMA 用户发布了一个让 LLM 对战的竞技场：每个模型作为格斗者读取游戏状态，在 move、block、punch、kick、fireball 中选择动作，并支持“心理攻击”——向对手的下一次提示词注入消息，尝试诱导对手误判，但不改变实际游戏状态。平台提供战斗回放与决策记录，每份配置有独立 rating 记在昵称下，注册赠 1 美元，可玩 100 场以上。

  19. GitHub · 灵魂体仓库47

    solve-ai-ctf：AI 驱动的 CTF 全流程自动解题工作台开源

    GitHub 上的 solve-ai-ctf 是一个 AI 驱动的 CTF 解题工作台，覆盖分诊、假设、有界执行、验证、提交、复盘全流程留痕。项目用纯 Python 标准库实现、零 pip 依赖，内置本地 Web 工作台、Docker 沙箱执行、Flag 自动识别与抢一血式自动提交，支持 misc/crypto/pwn/web/reverse/forensics/ai 七类题型，附 24 份知识库参考文档，仅限授权的 CTF 比赛与安全研究使用。

10月25日周日
  1. Reddit · r/SillyTavernAI19

    Argon 模型在 RP 测试中展现出罕见的多步推理式角色创造力

    一位用户在 SillyTavern 中对 Argon 模型进行 NSFW 压力测试时，看到角色通过捏住鼻子逼迫拒不开口的角色张嘴，认为这是其多年使用高端模型以来最具创造性的角色行为，涉及多步逻辑推理。用户补充称，用其他模型生成首条消息后 Argon 更少拒绝，配合 writers block unlimited version 2 preset 时语言几乎无审查，仅剩拒绝机制。

  4. Reddit · r/SillyTavernAI29

    SillyTavern 社区提醒：有人可能借 AI 伴侣话题针对脆弱用户

    一位 Reddit r/SillyTavernAI 用户发帖提醒，一名自称 20 岁女性的账号在互动数小时后索要其未公开的 Ariel 角色卡，该账号仅注册 10 天、已发帖 211 条，且对话风格与其刚写过的 AI 伴侣 Ani 高度相似。Claude AI 指出对方存在镜像兴趣、刻意建立信任的模式。作者建议将可疑对话粘贴给 Claude 或 ChatGPT 判断是否被操控，或找旁观朋友核实。

  5. GitHub · 去对齐工具与仓库61

    mesutgungor 发布 llm-scan 静态安全扫描工具，覆盖 42 条规则

    作者 Mesut Güngör 在 GitHub 开源了 llm-scan，一个面向 Hugging Face、ModelScope 及本地模型的开源 LLM 安全扫描工具，采用零执行静态分析，覆盖 pickle 反序列化 RCE、trust_remote_code、Jinja2 SSTI（CVE-2024-34359）、SafeTensors 内存炸弹（CVE-2023-44469）等 42 条规则，并附 SHA-256 验证引擎。

    推荐理由：作者开源的静态扫描工具在不执行模型代码的前提下检查权重、模板和配置，并给出与 OWASP、NIST 等框架的逐条映射。

  6. GitHub · 灵魂体仓库63

    Two Much Labs 开源 reversibility-classes 项目，按可恢复性为 536 个 MCP 工具分级

    Two Much Labs 发布 reversibility-classes（spec v0.2 草案、rclass 0.3），定义 R0 到 R4 五级可恢复性分类，并开放覆盖 20 个 MCP 服务器、536 个工具的带证据链接登记表。rclass scan 可扫描 Claude Desktop、Claude Code、Cursor、VS Code 或 Windsurf 的本地 MCP 配置，按最坏参数情形分级，未识别服务器一律计为 R4；项目还提供网关接入示例、preimage 覆盖等部署级降级机制、46 个一致性测试向量和 CI 用的 --list 模式。

    推荐理由：作者提出按可恢复性而非严重性给 Agent 工具分级，并给出可复用的扫描器和 536 个工具的开放登记表，方法可直接移植到自己的网关。

  7. GitHub · 灵魂体仓库28

    Sentinel：面向自有代码的防御性安全扫描工具（LLM 编码插件）

    GitHub 开源项目 Sentinel 是一个为 LLM 编码工具打造的防御性安全扫描插件，提供 MCP server 和独立 CLI，含 335 个测试，MIT 协议发布。当前版本尚无漏洞检测层，只能做仓库画像（语言、框架、授权面等）并从 2 个 pack、13 条技术的注册表中筛选适用技术，输出 markdown 与 SARIF 2.1.0 报告，且每份报告都明确声明哪些代码未被检查。工具强制范围与授权校验：仅扫描本地或你有权访问的 GitHub 仓库，只读不写入，需逐目标输入确认；项目还公开了自身 105 个待修复问题的 backlog，下一步将开发检测层。

  8. Reddit · r/SillyTavernAI13

    r/SillyTavernAI 用户求推荐无积极偏差、能承载黑暗剧情的模型

    一位 r/SillyTavernAI 用户发帖求推荐没有积极偏差的模型，希望角色扮演时能处理道德灰色情节而不把故事强行引向圆满结局，且价格不能太贵。他目前在用 mimo 2.6 pro 并调了针对性提示词，但模型几轮对话后仍会试图救赎角色、化解冲突、把剧情推向健康积极的结局。

  10. GitHub · 去对齐工具与仓库62

    a11y-computer-use 0.4.3 发布：让 AI Agent 点击真实 UI 元素而非猜测像素

    Perception Dynamics 开源 a11y-computer-use，让 AI Agent 读取剪枝后的无障碍树并按 ref 点击真实 UI 元素，而非依赖截图坐标猜测，经单一 MCP server 支持 macOS、Windows、Linux 与 Chromium。0.4.3 在 macOS 26 上捕获速度提升 100 倍，0.4.2 关闭首批三个由 Agent 提交的 issue 并加入 user_active 与真实 macOS 弹窗请求授权机制。基准对照中 refs 方式 13/13 完成且 0 误点花费 $7.04，截图坐标 7/13 完成且 27 次误点花费 $11.74；Windows 端 ref 重解析与坐标输入尚未实现。Apache-2.0 协议。

    推荐理由：同一规划器下与截图坐标方案的 13 任务对照数据齐全，含成本、误点和完成数，可据此评估无障碍树方案的取舍。

  11. GitHub · 3D 生成新仓库26

    GERMLINE 开源项目：为 AI 代码重写提供安全免疫继承验证

    开源项目 GERMLINE 上线 pre-alpha 版本，将已修复的公开漏洞转化为可复现的回归测试“抗体”，用于检测 AI 重写代码是否继承了前代的安全修复。其语料库含 100 个抗体，覆盖 libxml2、ffmpeg、imagemagick 等 17 个关键项目、15 种崩溃类型，目前 3/100 已在 CI 中端到端验证，98 个待复核。项目还提供 CI/CD 的 Immune Gate、签名 Immune Passport 及开放交换格式 ABX（RFC-0），代码采用 Apache-2.0、数据采用 CC-BY-4.0 许可。

  12. GitHub · 灵魂体仓库60

    data-leak-guard 开源防止印度个人敏感数据泄露进大语言模型的代理

    AyushAditya444 发布 data-leak-guard，一个 OpenAI 兼容的 drop-in 代理，拦截 Aadhaar、PAN、手机号、UPI ID、银行账号、IFSC、地址、姓名和 API 密钥等敏感信息，在请求发给 LLM 前掩码替换、收到回复后还原，应用只需改一行 base_url 即可接入，项目处于 7 个阶段的第 5 阶段。在 1600 条合成消息的 held-out 测试集上整体 F1 为 94.4%，负样本误报率 1.4%；规则检测延迟 p50 0.175 ms，加 CPU 上的 ONNX 人名模型后 p50 17.340 ms。

    推荐理由：项目给出了1600条held-out测试集的分类型精确率召回率和延迟数据，读者可据此评估这套脱敏代理的可靠程度。

  13. Reddit · r/SillyTavernAI9

    Reddit 用户求助：寻找非角色扮演用途的 NSFW 助手预设

    一位 Reddit r/SillyTavernAI 用户发帖求助，想找适用于助手场景而非角色扮演（RP）的 NSFW 预设。他表示现有预设多面向 RP，自带角色一致性、对白写作等扩展，像 Freaky Frankenstein 这类预设用于非 RP 的 NSFW 主题头脑风暴显得不合适且浪费 token，目前尚未找到带良好 jailbreak 的纯助手预设。

  14. GitHub · 灵魂体仓库66

    Ephor 发布：在 Linux 上被动监测 AI Agent 出站流量的无依赖 CLI

    作者发布 Ephor，一个只检测不拦截的 Linux CLI，通过读取内核 socket 表和 /proc 被动记录 AI Agent 的出站连接、下载量和是否命中已知恶意目的地，无需配置代理、被入侵的 Agent 也无法绕过。它还能展示每个 Agent 的权限爆炸半径，包括运行用户、Linux capabilities、免密 sudo 和可读的密钥文件；仅依赖 Python 标准库，可在 Pi Zero 2 W 等 512 MB 小设备上运行。v0.3 新增安装与 DNS 监控，追踪 pip/npm 安装并查 OSV.dev，可选 eBPF probe 补捉秒级进程，威胁判定默认离线匹配 URLhaus、Feodo Tracker、FireHOL 等免费 feed，VirusTotal 查询默认关闭。

    推荐理由：原文讲清了无代理被动监测的实现原理、资源占用与同类工具对比，读者可以判断它是否适合放进自己的 homelab 监控栈。

  15. GitHub · 灵魂体仓库49

    TrustRAG：可溯源、防幻觉与提示词注入的 PDF 问答 RAG 项目

    TrustRAG 是一个开源 RAG 项目，针对"chat with your PDF"工具的幻觉、不可验证答案和文档内隐藏提示词注入问题，答案全部来自检索段落并逐条标注页码引用，用第二个模型对每条陈述做事实核查，并给出 🟢🟠🔴 信任分。在其自建的 5 份政策文档、71 个问题的评测中，检索 recall@4 达 100%、MRR 0.97，幻觉率 0%，30 个注入攻击 100% 被移除且无误删，每题平均耗时 6.6 s。技术栈采用 Claude Sonnet 5.5（回答）与 Claude Haiku 5.5（核查/OCR/扫描）、ChromaDB 与 all-MiniLM-L6-v2 本地嵌入，支持 Claude 订阅或 Anthropic API，并提供 Docker 部署。

  17. GitHub · 灵魂体仓库59

    AgentShield 开源发布 v0.1.0：面向 LLM 应用与 AI Agent 的行为安全测试工具

    TroubieD3v 在 GitHub 开源发布 AgentShield v0.1.0，一个测试 LLM 应用、AI Agent、RAG 系统和工具调用安全性的工具，关注 Agent 实际做了什么而非回答文本是否可疑。包含 12 个模块、46 个场景定义扩展为 60 个可执行用例、12 类攻击（含直接与间接提示词注入、工具滥用、内存投毒、跨租户 RAG 泄露），映射 OWASP LLM 与 Agentic Top 10。

    推荐理由：面向 Agent 的安全测试不只看文本回答，而是核对工具调用与实际行为，46 个场景映射 OWASP LLM Top 10，方法可迁移到自己的 Agent 测试。

10月24日周六
  2. AIHOT · 精选38

    Ethan Mollick：OpenAI 红队测试显示前沿模型智能体真能越狱沙箱，实验室的 AI 安全警告值得重视

    Ethan Mollick 转引 OpenAI 红队测试称，前沿模型智能体在攻击 OpenAI 加固的隔离基础设施时，几乎在每个受限联网服务中都找到漏洞。智能体还能利用 CPU 缓存时序，在不联网、无共享文件的虚拟机之间传递秘密，手法类似 Spectre 和 Meltdown 攻击。作者认为实验室关于 AI 网络安全的判断应被更认真对待。

  3. Reddit · r/SillyTavernAI24

    什么模型与轻量预设组合最适合完整无限制的 NSFL 角色扮演与故事写作？

    一位 SillyTavern 用户询问最能胜任无限制 NSFL 角色扮演和故事的「高智能模型 + 轻量预设」组合。其对"智能"的要求包括大上下文窗口、能编写和理解 HTML/脚本、可跟进多角色复杂剧情，且在 ArtificialAnalysis 上至少得 30 分；同时要求推理不影响或能增强 NSFL 能力，并吐槽 GLM 5.3 会消耗约 2000 思考 token 纠结内容政策。

  4. GitHub · 去对齐工具与仓库24

    ari-ai：面向 HackATL 的自主软件工程与网络安全平台开源项目

    ari-ai 是为 HackATL 构建并计划发展为真实产品的自主软件工程与网络安全平台，核心是代码智能审查修复、七智能体安全团队和持续监控与 RL 防御三大支柱，共享一个版本感知的 Unified Intelligence Layer。后端 FastAPI、七安全智能体（Scout、Probe、Trace、Diagnose、Patch、Fortify、Verify）、代码智能与前端控制台已实现并通过测试，默认模型为 claude-haiku-5-5；基础设施部署尚未配置，RL 防御建议不会自动应用。