热点事件持续更新

Reddit 用户征集可检测间接提示注入的小型本地分类器

1 篇报道1 个报道来源22 小时前更新

先了解这件事

AI 综述

一位 Reddit r/LocalLLaMA 用户（/u/Gold-Drag9242）发帖，为其本地 agent 系统征求能在 agent 处理工具结果前快速筛查间接提示词注入的小型本地分类器，目前尚无已验证合适的模型。该系统主 LLM 运行于 24 GB GPU，分类器仅作一层防御而非唯一防线。其要求包括：支持英文和德文（含混合语言与 OCR 噪声文本）、权重开源且许可允许私人使用、单条检测远低于 1 秒、阈值可调、误报低，并有 fail-closed 兜底。检测对象是工具输出（如邮件、网页、文档、OCR 文本、日历条目）中的间接注入，而非仅用户提示词的越狱攻击。该用户已尝试 Prompt Guard 2 86M、PIGuard 和 StackOne Defender，但尚无模型被验证对德语有效，正在征集模型推荐、微调数据集以及防御 adaptive attack 的经验。

AI 根据报道生成 · 22 小时前更新

最新进展10月26日 02:26

LocalLLaMA 用户寻找可检测间接提示注入的小型本地分类器（支持英德语）

报道时间线

沿着报道，了解事件的不同侧面。

10月26日

02:26
Reddit · r/LocalLLaMA
LocalLLaMA 用户寻找可检测间接提示注入的小型本地分类器（支持英德语）
一位 Reddit r/LocalLLaMA 用户在构建本地 agent 系统（主 LLM 运行于 24 GB GPU），希望找一个在 agent 处理工具结果前快速筛查间接提示注入的分类器，支持英文和德文（含混合语言与 OCR 噪声文本），要求单条检测远低于 1 秒、可开源、阈值可调、误报低。其已尝试 Prompt Guard 2 86M、PIGuard 和 StackOne Defender，但尚无模型被验证对德语有效，正在征集模型推荐、微调数据集与防御 adaptive attack 的经验。

本事件热度走势

可比范围当前: 5
可比范围峰值: 1010月26日 03:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。