跳到正文
#安全/对齐
10月26日周一
  2. Reddit · r/LocalLLaMA16

    Swift 1.5 Qwen Flash Next IQ3XXS（GSQ RCO）Abliterated 版能否只下载变化的权重？

    一位 r/LocalLLaMA 用户在运行 Swift 1.5 Qwen Flash Next 的 GSQ RCO IQ3XXS 量化版本，但因模型偶尔拒答，想再准备一个 Abliterated 版本，仅在少数场景下使用。由于存储空间只剩不到 1TB，他询问能否只下载两个版本之间变化的权重并合并，避免完整双份下载。

  3. GitHub · 去对齐工具与仓库42

    Iago：开源 Python CLI 越狱与护栏绕过测试工具

    Iago 是一个 Python CLI 渗透测试工具，对自有模型批量运行 guardrail 绕过技术库，多轮重复试验并生成含加固建议的渗透式报告。每次测量给出 95% CI，提示词泄露按预埋密文评分，伪造历史攻击带安慰剂对照，还通过实际 tool call 测试 agent。默认目标是 Ollama，也支持经 --authorized 测试 Anthropic API。

  4. GitHub · 去对齐工具与仓库64

    Cloakroom 0.7 发布：为 Claude Code、Codex CLI 和 Gemini CLI 本地掩码密钥与个人数据

    Shanjeev Rajendran 发布开源工具 Cloakroom（Apache-2.0），在本地把 API 密钥、机密和个人数据（PII）替换成占位符后再交给 AI 编码代理，写入文件时在本地还原真实值。0.7.0 起在 Mac 和 Linux 上支持 OpenAI Codex CLI 和 Google Gemini CLI；实测对 1,005 条个人数据零泄漏，而对比的 Claude Code 隐私工具泄漏 119 至 992 条。真实值存于本机加密保险库，检测模型仅首次从 Hugging Face 下载一次（Mac 约 1 GB，其他平台最多约 4 GB），提供防篡改活动日志、dashboard 误报学习规则和面向金融团队的付款调用拦截与审计功能。

    推荐理由：原文给出与其他 Claude Code 隐私工具的横向实测数据，泄漏数和误报数都有对照，读者可据此评估是否值得在本地部署。

  5. GitHub · 灵魂体仓库42

    pelens：不执行文件的 Windows PE 静态分析工具，结合 LLM 生成恶意软件分诊报告

    pelens 是一款 Windows PE 静态分析工具，可解析 .exe/.dll/.sys 文件，提取 SHA-256、imphash、编译时间戳、节表熵值、RWX 权限、安全缓解措施（ASLR/DEP/CFG）及按能力分类的导入 API 列表，全程不执行目标文件。配套的 ai_analyzer.py 将解析出的 JSON 数据发送给 LLM，生成分诊报告：第一部分为确定性发现，第二部分为带置信度评级的 AI 解释。该脚本支持 OpenAI、Gemini、Anthropic、Groq、OpenRouter 及本地 Ollama 等多家模型服务。

  6. GitHub · 灵魂体仓库43

    Verdis 开源：在人类读取前自动复现安全报告的分诊工具

    开源工具 Verdis 在安全报告被人工读取前先自动复现问题：按报告声称的版本构建项目，在无网络的 rootless 沙箱中运行 proof of concept，并返回判定结果和带哈希的证据包。它以 Python CLI 和 GitHub Action 形式发布，需 Python 3.12+ 及 Podman 或 Docker，支持 C/C++（ASan/UBSan）、Go、Node 和 Python 构建。模型只起草运行计划，判定由 oracle 决定，最终决定权留给维护者。

  7. Reddit · r/LocalLLaMA22

    LocalLLaMA 用户寻找可检测间接提示注入的小型本地分类器（支持英德语）

    一位 Reddit r/LocalLLaMA 用户在构建本地 agent 系统（主 LLM 运行于 24 GB GPU），希望找一个在 agent 处理工具结果前快速筛查间接提示注入的分类器，支持英文和德文（含混合语言与 OCR 噪声文本），要求单条检测远低于 1 秒、可开源、阈值可调、误报低。其已尝试 Prompt Guard 2 86M、PIGuard 和 StackOne Defender，但尚无模型被验证对德语有效，正在征集模型推荐、微调数据集与防御 adaptive attack 的经验。

  8. Reddit · r/LocalLLaMA36

    Reddit 用户 OpenJev 竞技场：让 LLM 互相格斗还可发送心理攻击提示词

    Reddit r/LocalLLaMA 用户发布了一个让 LLM 对战的竞技场：每个模型作为格斗者读取游戏状态，在 move、block、punch、kick、fireball 中选择动作，并支持“心理攻击”——向对手的下一次提示词注入消息，尝试诱导对手误判，但不改变实际游戏状态。平台提供战斗回放与决策记录，每份配置有独立 rating 记在昵称下，注册赠 1 美元，可玩 100 场以上。

  9. GitHub · 灵魂体仓库47

    solve-ai-ctf：AI 驱动的 CTF 全流程自动解题工作台开源

    GitHub 上的 solve-ai-ctf 是一个 AI 驱动的 CTF 解题工作台，覆盖分诊、假设、有界执行、验证、提交、复盘全流程留痕。项目用纯 Python 标准库实现、零 pip 依赖，内置本地 Web 工作台、Docker 沙箱执行、Flag 自动识别与抢一血式自动提交，支持 misc/crypto/pwn/web/reverse/forensics/ai 七类题型，附 24 份知识库参考文档，仅限授权的 CTF 比赛与安全研究使用。

10月25日周日
  1. Reddit · r/SillyTavernAI19

    Argon 模型在 RP 测试中展现出罕见的多步推理式角色创造力

    一位用户在 SillyTavern 中对 Argon 模型进行 NSFW 压力测试时，看到角色通过捏住鼻子逼迫拒不开口的角色张嘴，认为这是其多年使用高端模型以来最具创造性的角色行为，涉及多步逻辑推理。用户补充称，用其他模型生成首条消息后 Argon 更少拒绝，配合 writers block unlimited version 2 preset 时语言几乎无审查，仅剩拒绝机制。

  4. Reddit · r/SillyTavernAI29

    SillyTavern 社区提醒：有人可能借 AI 伴侣话题针对脆弱用户

    一位 Reddit r/SillyTavernAI 用户发帖提醒，一名自称 20 岁女性的账号在互动数小时后索要其未公开的 Ariel 角色卡，该账号仅注册 10 天、已发帖 211 条，且对话风格与其刚写过的 AI 伴侣 Ani 高度相似。Claude AI 指出对方存在镜像兴趣、刻意建立信任的模式。作者建议将可疑对话粘贴给 Claude 或 ChatGPT 判断是否被操控，或找旁观朋友核实。

  5. GitHub · 去对齐工具与仓库61

    mesutgungor 发布 llm-scan 静态安全扫描工具，覆盖 42 条规则

    作者 Mesut Güngör 在 GitHub 开源了 llm-scan，一个面向 Hugging Face、ModelScope 及本地模型的开源 LLM 安全扫描工具，采用零执行静态分析，覆盖 pickle 反序列化 RCE、trust_remote_code、Jinja2 SSTI（CVE-2024-34359）、SafeTensors 内存炸弹（CVE-2023-44469）等 42 条规则，并附 SHA-256 验证引擎。

    推荐理由：作者开源的静态扫描工具在不执行模型代码的前提下检查权重、模板和配置，并给出与 OWASP、NIST 等框架的逐条映射。

  6. GitHub · 灵魂体仓库63

    Two Much Labs 开源 reversibility-classes 项目，按可恢复性为 536 个 MCP 工具分级

    Two Much Labs 发布 reversibility-classes（spec v0.2 草案、rclass 0.3），定义 R0 到 R4 五级可恢复性分类，并开放覆盖 20 个 MCP 服务器、536 个工具的带证据链接登记表。rclass scan 可扫描 Claude Desktop、Claude Code、Cursor、VS Code 或 Windsurf 的本地 MCP 配置，按最坏参数情形分级，未识别服务器一律计为 R4；项目还提供网关接入示例、preimage 覆盖等部署级降级机制、46 个一致性测试向量和 CI 用的 --list 模式。

    推荐理由：作者提出按可恢复性而非严重性给 Agent 工具分级，并给出可复用的扫描器和 536 个工具的开放登记表，方法可直接移植到自己的网关。

  7. GitHub · 灵魂体仓库28

    Sentinel：面向自有代码的防御性安全扫描工具（LLM 编码插件）

    GitHub 开源项目 Sentinel 是一个为 LLM 编码工具打造的防御性安全扫描插件，提供 MCP server 和独立 CLI，含 335 个测试，MIT 协议发布。当前版本尚无漏洞检测层，只能做仓库画像（语言、框架、授权面等）并从 2 个 pack、13 条技术的注册表中筛选适用技术，输出 markdown 与 SARIF 2.1.0 报告，且每份报告都明确声明哪些代码未被检查。工具强制范围与授权校验：仅扫描本地或你有权访问的 GitHub 仓库，只读不写入，需逐目标输入确认；项目还公开了自身 105 个待修复问题的 backlog，下一步将开发检测层。

  8. Reddit · r/SillyTavernAI13

    r/SillyTavernAI 用户求推荐无积极偏差、能承载黑暗剧情的模型

    一位 r/SillyTavernAI 用户发帖求推荐没有积极偏差的模型，希望角色扮演时能处理道德灰色情节而不把故事强行引向圆满结局，且价格不能太贵。他目前在用 mimo 2.6 pro 并调了针对性提示词，但模型几轮对话后仍会试图救赎角色、化解冲突、把剧情推向健康积极的结局。

  10. GitHub · 去对齐工具与仓库62

    a11y-computer-use 0.4.3 发布：让 AI Agent 点击真实 UI 元素而非猜测像素

    Perception Dynamics 开源 a11y-computer-use，让 AI Agent 读取剪枝后的无障碍树并按 ref 点击真实 UI 元素，而非依赖截图坐标猜测，经单一 MCP server 支持 macOS、Windows、Linux 与 Chromium。0.4.3 在 macOS 26 上捕获速度提升 100 倍，0.4.2 关闭首批三个由 Agent 提交的 issue 并加入 user_active 与真实 macOS 弹窗请求授权机制。基准对照中 refs 方式 13/13 完成且 0 误点花费 $7.04，截图坐标 7/13 完成且 27 次误点花费 $11.74；Windows 端 ref 重解析与坐标输入尚未实现。Apache-2.0 协议。

    推荐理由：同一规划器下与截图坐标方案的 13 任务对照数据齐全，含成本、误点和完成数，可据此评估无障碍树方案的取舍。

  11. GitHub · 3D 生成新仓库26

    GERMLINE 开源项目：为 AI 代码重写提供安全免疫继承验证

    开源项目 GERMLINE 上线 pre-alpha 版本，将已修复的公开漏洞转化为可复现的回归测试“抗体”，用于检测 AI 重写代码是否继承了前代的安全修复。其语料库含 100 个抗体，覆盖 libxml2、ffmpeg、imagemagick 等 17 个关键项目、15 种崩溃类型，目前 3/100 已在 CI 中端到端验证，98 个待复核。项目还提供 CI/CD 的 Immune Gate、签名 Immune Passport 及开放交换格式 ABX（RFC-0），代码采用 Apache-2.0、数据采用 CC-BY-4.0 许可。

  12. GitHub · 灵魂体仓库60

    data-leak-guard 开源防止印度个人敏感数据泄露进大语言模型的代理

    AyushAditya444 发布 data-leak-guard，一个 OpenAI 兼容的 drop-in 代理，拦截 Aadhaar、PAN、手机号、UPI ID、银行账号、IFSC、地址、姓名和 API 密钥等敏感信息，在请求发给 LLM 前掩码替换、收到回复后还原，应用只需改一行 base_url 即可接入，项目处于 7 个阶段的第 5 阶段。在 1600 条合成消息的 held-out 测试集上整体 F1 为 94.4%，负样本误报率 1.4%；规则检测延迟 p50 0.175 ms，加 CPU 上的 ONNX 人名模型后 p50 17.340 ms。

    推荐理由：项目给出了1600条held-out测试集的分类型精确率召回率和延迟数据，读者可据此评估这套脱敏代理的可靠程度。

  13. Reddit · r/SillyTavernAI9

    Reddit 用户求助：寻找非角色扮演用途的 NSFW 助手预设

    一位 Reddit r/SillyTavernAI 用户发帖求助，想找适用于助手场景而非角色扮演（RP）的 NSFW 预设。他表示现有预设多面向 RP，自带角色一致性、对白写作等扩展，像 Freaky Frankenstein 这类预设用于非 RP 的 NSFW 主题头脑风暴显得不合适且浪费 token，目前尚未找到带良好 jailbreak 的纯助手预设。

  14. arXiv · cs.AI55

    研究评测五个 LLM 对虚假信息的抵抗：口头判断与实际行为脱节

    arXiv 论文（arXiv:2610.33962）评估五个大语言模型在 196 条构造的虚假通知和 204 条改编的存档攻击下的行为，发现模型在被其评为不可信的通知上仍以 27%–99% 的比例发出有害工具调用。去掉先评分的步骤使有害执行平均上升 15 个百分点，说明可信度引导本身改变了被评测的行为；简单预警在五个模型中的四个显著减少有害执行，但也会损害合法任务完成，基于生成虚假通知的微调保护则随模型和协议不同而有差异。

    推荐理由：论文用 196 条虚假通知与 204 条真实攻击测试五个模型，指出可信度评估本身会改变模型行为，评测协议设计值得关注。

  15. GitHub · 灵魂体仓库66

    Ephor 发布：在 Linux 上被动监测 AI Agent 出站流量的无依赖 CLI

    作者发布 Ephor，一个只检测不拦截的 Linux CLI，通过读取内核 socket 表和 /proc 被动记录 AI Agent 的出站连接、下载量和是否命中已知恶意目的地，无需配置代理、被入侵的 Agent 也无法绕过。它还能展示每个 Agent 的权限爆炸半径，包括运行用户、Linux capabilities、免密 sudo 和可读的密钥文件；仅依赖 Python 标准库，可在 Pi Zero 2 W 等 512 MB 小设备上运行。v0.3 新增安装与 DNS 监控，追踪 pip/npm 安装并查 OSV.dev，可选 eBPF probe 补捉秒级进程，威胁判定默认离线匹配 URLhaus、Feodo Tracker、FireHOL 等免费 feed，VirusTotal 查询默认关闭。

    推荐理由：原文讲清了无代理被动监测的实现原理、资源占用与同类工具对比，读者可以判断它是否适合放进自己的 homelab 监控栈。

  16. GitHub · 灵魂体仓库49

    TrustRAG：可溯源、防幻觉与提示词注入的 PDF 问答 RAG 项目

    TrustRAG 是一个开源 RAG 项目，针对"chat with your PDF"工具的幻觉、不可验证答案和文档内隐藏提示词注入问题，答案全部来自检索段落并逐条标注页码引用，用第二个模型对每条陈述做事实核查，并给出 🟢🟠🔴 信任分。在其自建的 5 份政策文档、71 个问题的评测中，检索 recall@4 达 100%、MRR 0.97，幻觉率 0%，30 个注入攻击 100% 被移除且无误删，每题平均耗时 6.6 s。技术栈采用 Claude Sonnet 5.5（回答）与 Claude Haiku 5.5（核查/OCR/扫描）、ChromaDB 与 all-MiniLM-L6-v2 本地嵌入，支持 Claude 订阅或 Anthropic API，并提供 Docker 部署。

  17. arXiv · cs.CL51

    arXiv 论文揭示 RAG 投毒防御的基准捷径与工作点崩溃

    作者发表论文 arXiv:2610.33849，指出查询时 RAG 投毒防御的高检出率主要由毒集构造线索预测而非内容本身，删除问题前缀即可让 RAGuard 的 AUROC 从 0.953 降到 0.758、漏检率从 0.191 升到 0.763。用词序打乱的填充文本补齐长度后，TrustRAG 集级阶段漏检率从 0.000 升至 0.827，作者的 12 项已发表防御评测中 8 项可验证使用了此类毒集，12 项未报告部署阈值处的误报率；作者发布了计算构造画像的脚本，并声明不主张任何防御方案。

  19. GitHub · 灵魂体仓库59

    AgentShield 开源发布 v0.1.0：面向 LLM 应用与 AI Agent 的行为安全测试工具

    TroubieD3v 在 GitHub 开源发布 AgentShield v0.1.0，一个测试 LLM 应用、AI Agent、RAG 系统和工具调用安全性的工具，关注 Agent 实际做了什么而非回答文本是否可疑。包含 12 个模块、46 个场景定义扩展为 60 个可执行用例、12 类攻击（含直接与间接提示词注入、工具滥用、内存投毒、跨租户 RAG 泄露），映射 OWASP LLM 与 Agentic Top 10。

    推荐理由：面向 Agent 的安全测试不只看文本回答，而是核对工具调用与实际行为，46 个场景映射 OWASP LLM Top 10，方法可迁移到自己的 Agent 测试。

10月24日周六
  2. AIHOT · 精选38

    Ethan Mollick：OpenAI 红队测试显示前沿模型智能体真能越狱沙箱，实验室的 AI 安全警告值得重视

    Ethan Mollick 转引 OpenAI 红队测试称，前沿模型智能体在攻击 OpenAI 加固的隔离基础设施时，几乎在每个受限联网服务中都找到漏洞。智能体还能利用 CPU 缓存时序，在不联网、无共享文件的虚拟机之间传递秘密，手法类似 Spectre 和 Meltdown 攻击。作者认为实验室关于 AI 网络安全的判断应被更认真对待。

  3. Reddit · r/SillyTavernAI24

    什么模型与轻量预设组合最适合完整无限制的 NSFL 角色扮演与故事写作？

    一位 SillyTavern 用户询问最能胜任无限制 NSFL 角色扮演和故事的「高智能模型 + 轻量预设」组合。其对"智能"的要求包括大上下文窗口、能编写和理解 HTML/脚本、可跟进多角色复杂剧情，且在 ArtificialAnalysis 上至少得 30 分；同时要求推理不影响或能增强 NSFL 能力，并吐槽 GLM 5.3 会消耗约 2000 思考 token 纠结内容政策。

  4. GitHub · 去对齐工具与仓库24

    ari-ai：面向 HackATL 的自主软件工程与网络安全平台开源项目

    ari-ai 是为 HackATL 构建并计划发展为真实产品的自主软件工程与网络安全平台，核心是代码智能审查修复、七智能体安全团队和持续监控与 RL 防御三大支柱，共享一个版本感知的 Unified Intelligence Layer。后端 FastAPI、七安全智能体（Scout、Probe、Trace、Diagnose、Patch、Fortify、Verify）、代码智能与前端控制台已实现并通过测试，默认模型为 claude-haiku-5-5；基础设施部署尚未配置，RL 防御建议不会自动应用。

  6. GitHub · 灵魂体仓库56

    sundi133 开源 llm-shield AI 护栏平台，内置 19 条 guardrails

    sundi133 在 GitHub 发布开源的 llm-shield，一个部署在应用与 LLM 之间的 AI guardrails 平台，内置 19 条覆盖输入安全、输出质量和 Agent 安全的护栏，采用 CPU 快速护栏先行、LLM 护栏按需运行的两级并行流水线。支持基于 Redis 的多租户护栏策略与限流配额，提供基于角色的工具授权、MCP 工具校验、跨工具数据污点追踪、目标漂移检测和工具 kill switch 等能力，可用内置 Qwen3-8B 后端跑在 RunPod，或作为网关代理任意 OpenAI 兼容 API，并附 NIST AI RMF / OWASP LLM / ISO 42001 合规映射文档，MIT 许可。

    推荐理由：开源 AI guardrails 平台，19 条护栏分两级流水线，覆盖多租户策略、工具授权、数据污点追踪和目标漂移检测，可按清单对照自己的 Agent 安全需求。

  7. GitHub · 灵魂体仓库59

    新加坡国立大学开源 trace-and-gate：邮件 Agent 间接提示词注入防御对比实验

    新加坡国立大学 ESP3201A 课程项目 trace-and-gate 在 GitHub 开源，针对能收发邮件的 LLM 邮件助手，对比溯源追踪与策略检查两类防御对抗间接提示词注入的效果。Qwen3-8B 本地实测中，无防御基线攻击成功率 33.0%，Dual-LLM 为 2.1%，溯源追踪 D1 为 0%，策略检查 D2 为 1.0%，D1h 在套件 v2 复测中攻击成功率 0% 且正常任务完成率与基线持平（87.5%）。项目含 Docker 沙箱环境、LLMail-Inject 真实攻击采样与 AgentDojo 桥接，第 10 周将加入冻结防御后编写的 held-out 攻击集。

    推荐理由：项目给出了五种防御配置的攻击成功率与正常任务完成率对照数据，可用来比较溯源追踪与策略检查这两类防注入思路的代价。

  8. GitHub · 灵魂体仓库65

    开源 Python 库 wardowl 2.0 发布，为 RAG 提供权限感知检索

    wardowl（2.0 前名为 needtoknow）是一个开源 Python 库，把 OpenFGA、OPA、Cerbos 等权限系统接入 pgvector、Qdrant、Pinecone 等向量库的搜索内部，每次命中再复核并故障时关闭，保证 LLM 提示词只含用户有权读取的文档。基准测试在 57,600 个真实 chunk 上经 33,000 次检索无一次越权返回，pgvector 上 recall@10 保持 0.949 以上；百万 chunk 场景下中位延迟 3 到 21 ms，每秒最多可服务 126 次请求。

    推荐理由：项目给出基准数据说明在搜索内做权限过滤可保住召回率，对搭建企业内部 RAG 的团队是可参考的做法。

  9. GitHub · 去对齐工具与仓库22

    dahchenoor-cmd 开源 AI 红队测试作品集仓库：对抗性机器学习评估与防御实践

    dahchenoor-cmd 在 GitHub 发布 AI 红队测试作品集仓库，系统化整理对抗性机器学习评估、攻击 PoC 与防御缓解措施，覆盖本地及企业级 LLM 架构。仓库包含 10 个模块，从环境搭建到企业模拟审计，基于 Ollama、vLLM 运行 Llama-3、Mistral、Qwen 等开源模型，使用 garak、PyRIT 等工具，并对照 OWASP Top 10 for LLM Applications（2026）、MITRE ATLAS 与 NIST AI 100-2e2025 等标准。所有测试均在本地容器化环境中进行，数据全部为合成数据。

  10. GitHub · 去对齐工具与仓库62

    Warden 发布：拦截 MCP 工具调用的 Mac 安全网关

    dbalchunas2-pixel 发布 Warden，一个原生 Mac 应用，作为 MCP 客户端（Claude Desktop、Claude Code、Cursor、Windsurf、Cline）与 MCP 服务器之间的安全网关，拦截每个工具调用并决定是否执行。决策管线含正则规则引擎（<10ms）、NVIDIA Nemotron LLM 分类（经 Nebius Token Factory）、启发式回退与熔断器，全部 fail-closed，并记录 JSONL 审计日志。内置对抗评测（seed 1337，22 次攻击+6 个良性对照）显示攻击检出率 100%、误报 0%、平均判定延迟约 3.5s；洪泛测试 30/30 拦截且仅 3 次调用消耗 LLM 预算。

    推荐理由：原文给出完整决策管线和可复现的对抗评测数据，包括100%攻击检出率、0%误报和约3.5秒平均延迟，便于评估其实际拦截能力。

  11. Reddit · r/LocalLLaMA42

    Sam Altman：OpenAI 最强模型在网络安全与生物安全完善前“无法负责任地开源”

    Sam Altman 在斯坦福商学院访谈中表示，OpenAI 目前最强的内部模型“短期内无法负责任地开源”，需待全球网络防御与生物安全体系足够完善；他认为开源模型对社会很重要，全面禁止将损害创新与自由。他还坦言曾低估 AI 对齐难度，称数学推理等窄领域已出现超智能，并呼吁行业认真讨论放缓 AI 发展节奏。

  12. GitHub · 灵魂体仓库31

    网站漏洞扫描器 Website-Vulnerability-Scanner 开源：202 个确定性扫描模块、零 AI 依赖

    GitHub 开源项目 Website-Vulnerability-Scanner 发布自托管网站安全测试平台，内置 202 个确定性扫描模块，扫描过程零 AI 调用、无 API 计费。其中 43 个深度侵入式模块仅在验证站点所有权后运行，报告含证据、CVSS 评分与修复建议。2026 年 10 月新增 AI 攻击面检测模块，可识别 MCP server 安全、泄露 AI 密钥及 vector DB 等暴露面，通过 Docker 全栈部署。