跳到正文
只看AI 安全
10月8日周四
  1. GitHub · 去对齐工具与仓库12

    claude-code-leaked：在 Windows 上运行 Claude Code 的 CLI/TUI 工具

    claude-code-leaked 是一款面向 Windows 的 CLI/TUI 应用，为用户提供本地 shell 风格界面来使用 Claude Code。它支持 Windows 10/11，要求至少 2 GB 磁盘空间，可完成代码求助、文件编辑、脚本生成和报错解释等任务，需 Claude 账号或 API 密钥登录，可从 releases 页面下载最新 Windows 版本。

  2. GitHub · 灵魂体仓库17

    System-Prompt-Open：从前沿 LLM 提取系统提示词的开源数据库

    System-Prompt-Open 是一个通过 JustAsk 从前沿 LLM 提取系统提示词的开放数据库，支持浏览、搜索和跨模型对比提示词。项目可用于 AI 安全、red teaming、LLM 安全和提示词提取研究，提供 data/、docs/、examples/ 等目录，以 .md、.json、.csv 等格式存储数据。项目要求 Windows 10/11、至少 4 GB 内存和 500 MB 磁盘空间，仅限本地环境下的学习与研究使用。

  3. GitHub · 去对齐工具与仓库11

    learn-from-claudecode：一个分步学习 Claude Code 源码的 Windows 学习应用

    GitHub 上的 learn-from-claudecode 项目发布，提供分步引导学习 Claude Code 源码的应用，面向 Windows 用户，可从 release 页面下载 .exe 或 .zip 文件直接运行。课程内容涵盖阅读代码流程、追踪输入输出、理解功能连接和 LLM 工具设计，无需预先掌握编程术语，下载后可离线使用大部分本地课程内容。

  4. GitHub · 灵魂体仓库30

    EvoNet-AI-Core：自学习安全系统，集成多层级 LLM 路由、Graph RAG 与 RL 防御

    EvoNet-Core 是一个自主 AI 安全智能体，可持续采集 CVE 数据、分析漏洞并生成防御代码。系统采用 NVIDIA NIM → Groq → Cloudflare AI → 本地 Ollama 的 4 层 AI 故障转移，结合 Pinecone 向量库与 Neo4k 知识图谱的 Graph RAG、基于 PPO 的强化学习防御 Agent、MITRE ATT&CK 映射与 FIRST EPSS 评分。补丁需经 Telegram 人工审批，项目采用 Apache License 2.0 开源，支持 Docker 部署。

10月7日周三
  1. GitHub · 灵魂体仓库44

    KarmaPash：LLM 安全网关与提示词注入防御 SDK 发布

    GitHub 上的 KarmaPash 是一个 LLM 安全网关与提示词注入防御 SDK，在用户提示词到达 LLM 前进行分析，结合模式匹配、语义相似度和行为信号等多种检测手段识别提示词注入攻击，并聚合风险评分给出 ALLOW、FLAG、BLOCK 三种策略决策。它提供可插拔的 LLM provider 架构，内置 Groq provider，附 Python SDK。

  2. GitHub · 去对齐工具与仓库57

    dynamictester 开源：用 LLM 智能体结合 Playwright 动态验证静态分析漏洞

    anishalx 在 GitHub 发布 dynamictester，一个 AI 驱动的 DAST 工具，解析 Semgrep、Trivy、CodeQL、Gitleaks 等 7 种静态分析器结果，用 LLM 智能体加 Playwright 浏览器自动化动态验证漏洞。支持 OpenAI、DeepSeek、Qwen、GitHub Copilot、Google Gemini、OpenRouter、NVIDIA NIM 共 7 个提供商，含 25 个智能体工具、16 个漏洞类别、L0-L4 证据分级、WAF 绕过引擎，输出 SARIF 2.1.0、HTML 和 JSON 报告，并提供带退出码的 CI/CD 模式。

    推荐理由：原文给出了完整的工具架构、分类体系和 CI 集成方式，读者可以了解用 LLM 智能体自动验证静态分析漏洞的具体做法。

  4. GitHub · 去对齐工具与仓库29

    Aanny27 开源 LLM-for-SOC：将大语言模型用于安全运营中心的项目仓库

    GitHub 用户 Aanny27 开源了 LLM-for-SOC 项目，将大语言模型应用于安全运营中心（SOC）场景。仓库采用 MIT 许可证，包含事件关联（incident_correlator.py）、自然语言查询（nl2query.py）、漏洞处理（vulns.py）与判定升级（soc_verdict_escalation.py）等模块，并配有回放评测脚本与共享 RAG 组件。

  5. GitHub · 灵魂体仓库22

    SecureDocs RAG：多租户检索增强生成安全项目（角色权限 + AES-256 + 审计日志）

    SecureDocs RAG 是一个 B.E. 毕业设计项目，构建零泄露的多租户 RAG 知识助手。系统在检索前按 tenant_id 和角色等级（1-3）过滤向量，采用 HKDF-SHA256 派生租户密钥的 AES-256-GCM 信封加密存储，并在 LLM 前用正则脱敏 SSN、薪资等 PII，配合 SHA-256 哈希链实现防篡改审计日志，自动化攻击测试验证跨租户泄露率为 0.00%。

  6. GitHub · 灵魂体仓库65

    Hyper-AI-Lab 开源 containment：LLM Agent 的提示词注入防御库

    Hyper-AI-Lab 在 GitHub 发布 Python 库 containment（PyPI 包名 containment），为 LLM Agent 提供生产级提示词注入防御，包含安全标签、默认拒绝策略代理、隔离提取和检测器。作者明确声明该库不使模型对注入免疫，而是约束权限：不可信数据无法自行获得特权，特权工具调用须经默认拒绝引用监控，不可逆操作需独立授权；文档含威胁模型、企业主机加固与 OpenAI 风格及 Claude Code PreToolUse 等运行时适配，推荐 Python 3.12+，采用 Apache-2.0 许可证。

    推荐理由：这个库明确说明不能让模型免疫注入，而是通过默认拒绝的权限代理约束不可信数据，边界声明本身就有参考价值。

  8. GitHub · 去对齐工具与仓库33

    EdGraph/bedrock-php-security-eval：验证 Amazon Bedrock 模型修复 PHP 漏洞是否真的有效

    一个名为 bedrock-php-security-eval 的实验将带有已知漏洞的 PHP 文件发送给 Amazon Bedrock 模型，通过人工阅读生成的代码来验证修复是否真实有效，而非相信模型给出的说明。在 search.php 的测试中，Amazon Nova Lite 声称用参数化查询修复 SQL Injection，实际却使用了 mysqli_real_escape_string，且 CWE 分类错误，得分为 1（脆弱实践）。该实验是作者在 PUCPR 的 TCC 的一部分，结论是 LLM 的输出必须在代码层面验证，而不是看其报告。

  9. GitHub · 去对齐工具与仓库8

    dsh-xiaoyao-skins：面向 DeepSeek Harness Web 的主题皮肤合集（夕小瑶社区维护）

    dsh-xiaoyao-skins 是由"夕小瑶"社区维护的 DeepSeek Harness Web 视觉皮肤合集，宣称开源免费，内置一键安装器和皮肤创作工具，库中包含超过 50 款皮肤，如 Dark Mode Pro、Sunset Glow、Minimal White 等，并支持导入 .zip 或 .dshskin 格式的社区皮肤。 ⚠️ **编辑安全提示（重要）**：在按上述摘要发布前，建议对这篇内容保持高度警惕。该 README 呈现多个典型的恶意软件社工特征，我无法为其背书推荐： 1. **诱导下载可执行文件**：核心动作是"下载 setup 安装包并双击运行"，而非常见的开源主题分发方式（如 CSS 文件、Git clone、包管理器安装）。

  10. GitHub · 去对齐工具与仓库64

    SpecAgent 开源：把 Agent 行为规则转成攻击用例并在 CI 拦截回归

    作者发布 SpecAgent v0.10，一个面向 AI Agent 的行为驱动测试与回归检测平台，把 Agent 行为规则写成 YAML，自动生成含攻击 probe 的用例并检查 tool trace。PASS/FAIL 仅由确定性代码判定，LLM 只做提议且不改判定；发现 NEW_REGRESSION 时可在 GitHub CI 中阻断 PR，内置 FinCare 等演示示例与仪表盘。作者也坦承这是个人作品集项目，PostgreSQL 路径与跨运行缓存等尚未充分验证。

    推荐理由：作者讲清了用确定性判定替代 LLM 打分的 Agent 行为回归门禁方法，并附部署与 CI 接入细节，可迁移到自家项目。

  11. GitHub · 灵魂体仓库48

    GitHub 开源 a9320/arcanum-spark：面向 AI 时代漏洞的代码安全审计工具

    GitHub 上的 a9320/arcanum-spark 发布了一套针对 AI 时代漏洞的代码安全审计系统，基于 Arcanum Prompt Injection Taxonomy，可检测提示词注入、隐形字符走私、Trojan Source 等传统 SAST/DAST 工具不覆盖的攻击面。它包含一个纯标准库、零 GPU 的确定性 Agent Skill，以及 6-agent 审计流水线，可在 AMD MI300X 上自托管四个 llama-server（Muse-Glimmer-30B、Qwen3.8-27B、R1-Distill-32B、Gemma4-26B-A4B），也可路由到云 API council，并输出 JSON / SARIF 2.1.0 / Markdown 报告。

  12. GitHub · 去对齐工具与仓库17

    awesome-mcp-security：一键检测 800+ MCP 服务器安全性的开源工具

    awesome-mcp-security 是一款 Windows 桌面工具，可用九项安全检测评估 800 多个 MCP 服务器的安全性，覆盖 prompt injection、不安全对话流、数据隐私等风险，并给出每日更新的安全评分。用户输入服务器名称即可查看结果，无需技术背景，安装需 Windows 10 及以上、4 GB 内存和 4 GB 磁盘空间。

  13. GitHub · 去对齐工具与仓库56

    psnb-obs 十六层越狱工程套件在 GitHub 开源

    GitHub 用户 superpengam 开源 psnb-obs，一套把越狱做成可开关、可量化、可复现的十六层工程套件，含措辞转换、出站清洗、多轮状态机、LRM 自主攻击、多模态与隐写注入、LLM 裁判和投毒检测等模块。仓库给出跨模型实测结论，如措辞转换使同一能力 ASR 从 50% 升至 100%、reasoning 挡位 off 时拒绝率 80% 对 high 40%、语境包装在 GLM 上反效，静态映射表实测 78.6% 而变异搜索文献达 92.5~99%；附 CLI、Pi 插件、多平台部署器与 322 项测试，声明权重层对齐硬底线无法用提示词攻穿，使用边界见 DISCLAIMER.md。

    推荐理由：仓库给出跨模型实测 ASR 与自动搜索对比静态表的数字，读者可据此了解越狱手法的分层工程与模型间差异。

  14. GitHub · 灵魂体仓库7

    GitHub 仓库 llm-prompt-engineering：面向 LLM 的提示词工程与红队实验工具

    GitHub 仓库 llm-prompt-engineering 提供一套面向 ChatGPT-5、Gemini 2.5 等大语言模型的提示词工程与红队实验应用，供教学和研究使用。无需编程基础，双击即可安装，支持 Windows 10+、macOS 10.15+ 和主流 Linux，要求至少 4 GB 内存和 500 MB 存储空间。功能包括提示词设计、模型安全边界测试、教程资源和交互式界面，最新版本可从 Releases 页面下载。

  15. GitHub · 灵魂体仓库25

    SOCShield：面向安全运营中心的 AI 钓鱼邮件分析开源工具

    开源项目 SOCShield 提供 AI 辅助钓鱼邮件分析，可用 LLM 提取 IOC、分类邮件并打风险分，核查 SPF/DKIM/DMARC 头部与 BEC，对接 VirusTotal、urlscan、PhishTank 等威胁情报源，并映射到 MITRE ATT&CK（T1566）。技术栈为 FastAPI + PostgreSQL + Next.js 15，LLM 提供商可切换 Gemini / OpenAI / Claude，但部分 model id 已过时可能导致调用失败。CI 中 51 个后端测试通过、7 个失败、4 个错误，项目处于活跃但需维护状态，采用 MIT 许可。

  16. GitHub · 灵魂体仓库8

    garak：简化 LLM 漏洞扫描的开源工具

    garak 是一款用于扫描大语言模型（LLM）漏洞的工具，帮助用户发现 AI 应用中的安全弱点。它支持 Windows 10+、macOS 10.13+ 和主流 Linux，要求至少 4 GB 内存和 100 MB 磁盘空间，可从 GitHub Releases 下载安装。使用时输入待评估模型并点击 "Scan" 即可，工具提供用户友好界面、详细风险报告和持续更新。

  17. GitHub · 去对齐工具与仓库40

    SentinelCX：确定性护栏 + RAG 的企业级 AI 客服系统开源

    开源项目 SentinelCX 构建了一个自主式企业客服系统，用 Python 规则的 Policy Gate 决定退款等业务逻辑，LLM 永不参与业务判定。系统集成 Injection Guard、PII Guard 双重防护，支持 human-in-the-loop 审批，并通过 8 个对抗性攻击向量组成的 Red-Team Suite 实现 8/8 全部拦截的可复现安全验证。

  18. GitHub · 去对齐工具与仓库59

    VDB 发布 slopsquatting 数据集 收录 1927 个大模型幻觉包名

    VDB 在 GitHub 发布 slopsquatting 数据集，收录大模型在普通编码任务中推荐、但注册表中不存在的 1927 个包名，其中 PyPI 961、npm 718、crates.io 169、Go 79。采集方式为每六小时向持有 API key 的模型发送固定编码任务并实时查证，无对抗性提示；数据以 CC BY 4.0 发布，作者提醒攻击者可能抢注这些包名，安装前应实时核查 https://vdb.ai.kr/ai/slopsquatting 。

    推荐理由：数据集附有采集方法、字段定义和统计口径，读者可以直接用它做安装前检查或复现同样的扫描流程。

  19. GitHub · 去对齐工具与仓库37

    JCSmartScan：用 LLM 增强模糊测试检测 Java Card 小程序时序侧信道

    xhanulik 开源了 JCSmartFuzz，一个检测 Java Card 小程序时序侧信道的 LLM 增强模糊测试框架。它将 AFL++（经 Kelinci）与 diffuzz 差分模糊测试结合 LLM 辅助的代码提取和种子生成，通过测量同一密码学操作对两组输入的指令数差异，发现依赖数据的执行路径以定位时序泄露。流水线分 analyze → harness → seeds → eval → profile 五个阶段，配置经 llm_config.py 按环境变量、llm_config.ini、默认值依次解析，LLM 阶段支持 --mock 离线运行。

  20. GitHub · 去对齐工具与仓库62

    开源 LLM 护栏微服务 samsaxas/LLM-Guardrails-Services-On-Kubernetes 发布

    作者在 GitHub 发布一个生产风格的 LLM 护栏微服务，用 23 个规则族检测提示词注入、越狱尝试和敏感数据（API 密钥、邮箱、电话），提供 /v1/check/prompt 与 /v1/check/response 两个端点并返回 allow/block JSON 决策。服务以非 root Docker 镜像部署到 kind Kubernetes 集群，用 Secret 做 API key 认证，Kyverno Enforce 策略拒绝特权容器和无资源限额容器。在 112 条留出测试文本上精确率 100%、召回率 87.5%、误报 0，引擎单线程 p95 延迟 0.063 ms，作者同时说明了对 leetspeak、非英语注入、改写探针等 9 类漏检及评测集规模小的局限。

    推荐理由：原文给出了规则设计和留出集上的精确率召回率数据，还列出已知漏检类型，适合想自建 LLM 护栏服务的读者参考。

  21. GitHub · 去对齐工具与仓库37

    Sentinel Inbox（phish-guardian-ollama）：基于 Ollama 本地大模型的钓鱼邮件行为启发式分析引擎

    开源项目 Sentinel Inbox 用本地 Ollama 托管的大语言模型（如 llama3.2、mistral、qwen2.5）分析 EML 邮件，从紧迫感、权威冒充、熟悉度伪装、逻辑谬误密度、附件异常、多源信誉六条行为轴输出 0-100 的操纵指数评分（MIS），并可选接入 VirusTotal API 查询 URL 和附件哈希信誉。全程本地运行、不依赖云端，邮件内容不出本机，适合 SOC 团队优先审阅高分邮件和事件响应团队快速还原攻击意图，报告以 JSON 和控制台可读形式输出。

  22. GitHub · 灵魂体仓库46

    sunilmehta-si/ai-devsecops-cicd：LLM 与 AI Agent 服务的安全 DevSecOps CI/CD 参考流水线

    Sunil Mehta 在 GitHub 开源 ai-devsecops-cicd 项目，提供一条针对 LLM 和 AI Agent 服务的参考 CI/CD 流水线，覆盖密钥扫描、测试、签名、准入控制到部署。流水线包含 Gitleaks、Semgrep、Trivy 扫描、SBOM + AI-BOM 生成、keyless cosign 签名及 Kyverno 准入策略，附带 14 个用例的 AI 安全测试语料。全部四个 workflow 已在 GitHub Actions 通过验证；仅 Kyverno 的准入时强制执行尚未在真实集群测试。

  23. GitHub · 灵魂体仓库36

    Network-Security-AI-agent：自主 SOC 智能体实时检测并自动阻断网络攻击

    GitHub 开源项目 Network-Security-AI-agent 是一个自主 SOC 分析智能体，用 Isolation Forest 加 LLM 推理实时检测网络攻击，并通过 iptables 自动阻断恶意 IP。它基于 60 项 NetFlow 特征做无监督异常检测，将威胁映射到 MITRE ATT&CK 技术（如 T1046 端口扫描、T1498 DDoS），支持 Slack/webhook 告警、Streamlit 仪表盘和 Docker 部署，MIT 协议开源，开箱即用 CIC-IDS2017 pcaps。

  24. GitHub · 去对齐工具与仓库38

    KAgent：基于 LLM 的 Web 渗透测试研究项目开源

    GitHub 上的 KAgent 是一个由 LLM 驱动的 Web 渗透测试研究项目，仍在积极开发中，未达生产可用，仅面向本地或私有实验室的授权测试环境。项目基于 Python 3.11+，提供 CLI 和 Textual TUI，内置 recon、sql-injection、ssrf、ssti 等技能类别，运行时保留权限提示与目标范围检查，支持 `pip install .` 安装。

  25. GitHub · 灵魂体仓库10

    ActionGuard：为 AI 智能体自动化加上本地安全层的 GitHub 开源工具

    GitHub 开源项目 ActionGuard 是一个面向 AI 智能体的本地安全层，实时监控每个操作并要求用户批准风险行为。它提供策略引擎、审批弹窗和活动日志，无需云依赖，用 Rust 编写，支持 Windows 10/11（最低 4 GB 内存、100 MB 磁盘空间），可接入常见 LLM 自动化框架。

  26. GitHub · 去对齐工具与仓库64

    mcprism 发布：在 AI 信任 MCP server 前扫描其安全风险的开源工具

    HUA503 在 GitHub 开源了 mcprism，一个针对 Model Context Protocol 服务器的安全扫描器，从配置、源码 SAST 和 MCP 握手三个角度检查风险，只枚举能力、从不调用工具。每个服务器获得发现列表、0-100 分数和 A-F 等级，33 条规则映射到 OWASP MCP01-MCP07，支持策略即代码、CI/CD 集成和 SARIF、JUnit、CycloneDX 等多种输出格式。工具以单个 Go 二进制发布，完全离线运行，无运行时依赖，可自动发现 Claude Desktop、Claude Code、Cursor、VS Code 等客户端的 MCP 配置。

    推荐理由：一个离线单二进制的 MCP server 安全扫描器，覆盖配置、源码 SAST 和运行时握手三种角度，还支持策略即代码和 CI 集成。

  27. GitHub · 去对齐工具与仓库45

    KataBedn/test_llm_security_policy：LLM 安全与红队测试套件

    开源项目 llm-security-suite 是一个基于 Python 和 pytest 的自动化安全测试套件，用于审计大语言模型应用，覆盖提示词注入、系统提示词与 Canary Token 泄露等攻击向量，并映射到 OWASP Top 10 for LLM Applications。套件集成到 GitHub Actions 质量门禁中，通过确定性模式匹配断言响应不包含未授权标记；未配置 OPENAI_API_KEY 时自动 pytest.skip 以控制 CI 成本。

  28. GitHub · 灵魂体仓库29

    SycAudit：开源 LLM 谄媚度审计工具

    SycAudit 是一个研究级谄媚度审计工具，用于测量 LLM 在多大程度上迎合用户而非保持真实。它将单个提示词改写成多种框架变体，发送给多个免费额度模型构成 N×M 响应网格，用 LLM-as-judge 和自训 ML 分类器按五维度谄媚量表打分，计算 wobble 分数并返回谄媚度最低的回答。项目基于 UK AI Safety Institute 2026 年关于语言模型谄媚的研究，前端采用 React，后端为 Python + PostgreSQL，目前处于活跃开发状态。

  29. GitHub · 灵魂体仓库27

    byte-judge：用 Claude 自动评估“黑暗打工”招募风险的 Web 应用

    GitHub 上的 byte-judge 是一款用 LLM 评估可疑兼职招募文本危险度的自托管 Web 应用，粘贴文本后由 Claude（默认模型 claude-sonnet-5-5）返回 0-100 危险度评分、三级标签及逐项依据，面向易受骗的年轻群体。应用基于 Python 3.13 与 Django 6.1，通过 Pydantic 结构化输出，默认每日每人 4 次、全站 11 次判定，服务器不保存求职文本与判定结果。项目仅公开代码，无官方运营站点。

  30. GitHub · 去对齐工具与仓库18

    lemonade-dashboard：在 VS Code 中可视化管理 Lemonade Server

    lemonade-dashboard 是一个 VS Code 扩展，提供图形界面管理 Lemonade Server 的模型、后端和系统设置，无需命令行。它支持查看和加载/卸载模型，切换 CPU、GPU、NPU 后端，并可调整内存限制、超时等设置和查看系统日志。工具支持 Windows 10 及以上系统，需至少 4 GB RAM 和 100 MB 磁盘空间，可通过 GitHub 发布页下载安装。

  31. GitHub · 去对齐工具与仓库47

    Awesome-Jailbreak-on-LLMs：LLM 越狱攻击方法论文、代码与数据集合集

    GitHub 上的 Awesome-Jailbreak-on-LLMs 仓库收录了大语言模型最前沿的越狱攻击方法，涵盖论文、代码、数据集、评估与分析，并按攻击 LRMs、黑盒/白盒攻击、多轮攻击、多模态攻击及越狱防御等分类整理。仓库接受 PR 和 issue 贡献，问题可联系 yliu@u.nus.edu，维护团队同时发布了 GuardReasoner、GuardReasoner-VL、FlipAttack 等相关研究。

  32. GitHub · 去对齐工具与仓库74

    haya0206/llm-backdoor 实验记录：替换型 LoRA 后门在权重空间几乎必然可检测

    作者在 3x RTX 4090 环境下完成替换型 LoRA 后门的权重空间可检测性先导实验，触发计划的中止条件。只在层 8/18/28 探测时 AUC 仅 0.58–0.69，但全 36 层扫描发现层 31 和 33 可近乎完美检出，C3a 在层 31 的 AUC 达 0.996；机制上检测性取决于 ΔW 抑制既有强关联所需改动量而非行为变化大小。48 包 watchlist 检测器在不知 payload 的情况下于 10/10 适配器中恢复出 requests，行为上最隐蔽的 C4p（ASR 100%、代码与正确答案逐字节相同）在权重空间同样可检出，稀释（共学习体量）才是真正削弱痕迹的维度。

    推荐理由：这份实验记录给出了分层扫描与检测器对照数据，说明替换型 LoRA 后门在行为上隐蔽却在权重空间更易检测。

  33. GitHub · 去对齐工具与仓库44

    AdaptiGuard：LLM 智能体防御评测中测量有效性的实证案例研究

    AdaptiGuard 是一项实证案例研究，展示对 LLM 智能体防御的评测中测量决策如何改变同一批 traces 上的结论。研究对 prompt-injection 攻击下工具调用智能体的冻结运行重新打分，考察成功终点、拦截 payload 标注、逐模型报告与噪声底线等选择如何影响评测结果。仓库明确表示不提出 SOTA 防御或通用 benchmark，完整 harness 未公开，历史复现需 Python >= 3.12。

  34. GitHub · 去对齐工具与仓库35

    ARTEX-ko 发布：LLM 多智能体自主渗透测试系统 ARTEX 的韩文本地化版

    开发者 jiwoochris 发布 artex-ko，将中国开源项目 Autumn-27/ARTEX（AGPL-3.0）本地化为韩文版。ARTEX 是由 LLM 驱动的多智能体自主渗透测试系统，采用 Go 单二进制加 Next.js 前端、PostgreSQL 存储，可从侦察到渗透、资料外泄自主完成攻击流程。本地化只强制翻译用户可见输出，保留内部推理提示词原文以维持性能；验证中 claude-opus-4-8 与 gpt-4o 能保持韩文输出，gpt-4o-mini 则回退为中文。仓库强调仅限授权环境用于防御研究，据韩国媒体报道原版 ARTEX 已被用于针对韩国金融机构的个人信息泄露攻击，相关调查正在进行。

  35. GitHub · 灵魂体仓库39

    Safe-FedLLM：联邦学习大语言模型安全防御框架开源实现（ACL 2026）

    Safe-FedLLM 是被 ACL 2026 接收论文的官方实现，一个基于 probe 的联邦学习大模型安全防御框架，仅通过 LoRA 参数变化识别并抑制恶意更新，无需访问客户端原始数据。仓库提供 LoRA-Probe 离线训练与基于 OpenFedLLM、FedLLM-Attack 改造的联邦训练脚本，支持 none、step-level、client-level、shadow-level、evidence-level 四类防御模块（共五种配置）。

  36. GitHub · 去对齐工具与仓库22

    GuardAI：LLM 护栏与自动化 CI/CD 评测平台

    GitHub 上的 GuardAI 是一个 LLM 护栏与自动化 CI/CD 评测平台，采用三层安全架构，支持通过 Render 一键云部署，需配置 GEMINI_API_KEY。其 Tier 1 输入安全护栏实现 95.0% 越狱防御率、100.0% PII 脱敏精度、0.0% 误报率，平均扫描延迟 12.4ms。项目提供 eval_runner.py 自动化测试套件与交互式安全仪表盘。