热点事件持续更新

开源发布提示词注入检测器 prompt-injection-detector

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

Koushik Chowdary 在 GitHub 发布开源项目 prompt-injection-detector，为 LLM 应用提供护栏，在用户输入到达模型前标记提示词注入和越狱尝试。它结合正则启发式规则与 TF-IDF + Logistic Regression 分类器，输出有界的风险分数，可检测 ChatML、Llama 3 分隔符伪造、Unicode 混排及 \uXXXX、\xHH 等编码混淆。项目有明确限制：输入超过 100,000 字符会被拒绝并抛出 ValueError；正则扫描预算 200 万字符，超限返回 0.7 的保守怀疑分。作者说明这是基于模式的检测，不能保证防住提示词注入，也不能替代可信的消息角色隔离；内置数据集仅是 40 条手写示例，用于演示方法流程，不是基准测试。

AI 根据报道生成 · 21 小时前更新

最新进展10月31日 05:56

prompt-injection-detector：一个面向 LLM 应用的提示词注入检测护栏

报道时间线

沿着报道，了解事件的不同侧面。

10月31日

05:56
GitHub · 灵魂体仓库
prompt-injection-detector：一个面向 LLM 应用的提示词注入检测护栏
GitHub 上的开源项目 prompt-injection-detector 为 LLM 应用提供护栏，在用户输入到达模型前标记提示词注入和越狱尝试。它结合正则启发式规则与 TF-IDF + Logistic Regression 分类器，输出有界的风险分数 score()，可检测 ChatML、Llama 3 分隔符伪造、Unicode 混排及 \uXXXX、\xHH 等编码混淆。输入上限 100,000 字符，正则扫描预算 200 万字符，超限返回 0.7 保守怀疑分。

本事件热度走势

可比范围当前: 5
可比范围峰值: 910月31日 08:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。