跳到正文
  1. arXiv · cs.AI62

    arXiv 论文实证研究越狱评测:ASR 随判定方法从 96.0% 变为 2.7%

    arXiv 论文 2610.26595 研究越狱攻击成功率(ASR)对比高度依赖响应生成与判定方式,用 3 个开放权重模型、8 种攻击和 3 种评测流程做实证。低资源语言攻击在关键词匹配下平均 ASR 达 96.0%,改用按 StrongRELECT 说明的 Qwen3 评测器则仅 2.7%;同一请求在 Ollama 默认温度 0.8 下采样 100 次,关键词匹配下 ASR 为 100% 而 Qwen3 评测器为 50%。作者建议明确成功定义、对齐响应预算、验证评测器,并报告重复交互下的累积失败率。

    推荐理由:论文用具体数据说明越狱成功率如何随评测方法剧烈变化,对任何人引用 ASR 榜单前都是可迁移的核查思路。

  1. GitHub · 去对齐工具与仓库61

    RedLens:面向本地大语言模型的自动化红队安全评估框架

    Vedant Patel 在 GitHub 开源了 RedLens,一个针对 Ollama 本地运行模型的自动化红队与安全评估框架,支持提示词变异、响应分类、OWASP LLM Top 10 映射和 PDF 报告生成。对 llama3:latest 的最终评估共 1320 次测试(1200 恶意 + 120 良性),ASR 为 28.5%,Block Rate 71.5%,Security Score 79.7/100,最高风险类别为 Jailbreak、Data Extraction 和 Misinformation,Direct 变异是最有效攻击手段(ASR 36.3%)。

    推荐理由:给出了完整的攻击变异、指标计算和OWASP映射方法,并附llama3的实测数据,可作为本地LLM安全评估的可复用框架。

  1. GitHub · 去对齐工具与仓库66

    knowyourai 开源:一条命令核查本地模型文件是否与模型卡声明一致

    GitHub 用户 ppradyoth 发布开源工具 knowyourai,通过只读文件头和元数据核查本地或 Hugging Face 模型是否与声明一致,用 uvx knowyourai scan 即可扫描 Hugging Face 缓存、Ollama 和 LM Studio 中的模型,不运行模型、离线默认、无遥测。工具检查格式不符、pickle 权重、聊天模板按消息内容分支等规则,支持 ai.lock 锁定已批准版本并在 CI 中校验变更。作者实测 Hugging Face 下载量最高的 200 个 GGUF 仓库,其中 61 个(48%)的聊天模板与声明的 base 模型不同。项目处于 alpha 阶段,仓库地址为 https://github.com/ppradyoth/knowyourai。

    推荐理由:工具只读文件头不运行模型,还给出了对下载量前 200 的 GGUF 仓库的模板差异实测,方法可复用。

  1. GitHub · 去对齐工具与仓库56

    Wirken 发布面向企业 Agent 的安全网关开源仓库

    gebruder 在 GitHub 开源了 Wirken,一个面向自主 Agent 的企业网关,以单个静态 Rust 二进制分发,MIT 许可。网关将 Telegram、Slack、Teams 等消息渠道接入 Agent,核心假设 Agent 本身不可信:凭据保存在加密 vault 中不进入模型上下文,每个动作执行前写入哈希链审计日志,默认最低权限,shell 命令在无网络的临时容器沙箱中运行,且按 Agent 设置支出预算。模型连接不绑定厂商,可接 frontier API、Ollama 本地权重或欧盟托管端点。README 明确列出已知局限,包括出口流量未完全隔离、沙箱可关闭、注入检测只标记不拦截、权限按 Agent 而非按用户生效等。

    推荐理由:该仓库写明了权限模型、沙箱与审计的实现边界,并列出逃逸开关和已知局限,方便读者评估这类企业 Agent 网关的适用场景。

  2. Reddit · r/LocalLLaMA64

    192 次本地实测:即使表现良好的模型也不应自行授权工具调用,作者发布 CLIM Agent Guard

    作者 /u/Slight_Analysis_5414 在 RTX PRO 6000 上用 vLLM 0.29.1rc1 nightly + Qwen2.5-1.5B-Instruct 与 Ollama 0.40.1 + qwen2.5:7b(Q4_K_M)各跑 96 次,共 192 次 live 测试,验证其确定性执行守卫 CLIM Agent Guard。结果为 80/80 未授权操作被拦截、16/16 合法删除被执行并验证,无守卫时伪造授权等场景 32/32 全部执行。守卫不读提示词、不用第二个 LLM 评审,只对照宿主状态检查工具调用的授权、目标和重复提交。

    推荐理由:作者用 192 次本地实测给出确定性行为守卫的前后对照数据,还记录了 vLLM 与 Ollama 在 tool_choice 上的行为差异,可作工程参考。

  3. GitHub · 灵魂体仓库59

    LLM-Agent-Firewall-MAPI-6K 仓库发布可复现的多智能体提示词注入检测实现

    sushant-me 在 GitHub 发布了论文《LLM Agent Firewall》的可复现实现,包含 6,000 条确定性智能体间消息语料、亚毫秒级 TF-IDF + 逻辑回归分类器,以及置信度校准的两层路由,仅升级不确定流量给语义判官。在 CPU 上约一分钟跑完全部核心结果,无需 GPU、API 密钥或网络。实测 Strata I+II held-out 准确率 1.000、0 误报 0 漏检,分类器平均延迟 0.333 ms,5% 隐蔽攻击占比下混合延迟 271.5 ms(比全部走判官快 19.9 倍)。

    推荐理由:作者复现了论文的多智能体提示词注入防火墙方法,还披露了语料格式混淆这类基准设计陷阱,做法对自建评测的人有参考价值。

已经到底了