跳到正文
GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分65

saibaba/camel-from-scratch:从零实现 CaMeL 防提示词注入设计的分步教程

saibaba/camel-from-scratch

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/saibaba/camel-from-scratch

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者开源了 CaMeL(Debenedetti et al., 2025,Defeating Prompt Injections by Design)的从零实现,用 Bun + TypeScript 和 AWS Bedrock 上的 Claude 编写,仓库包含完整 run guide 和 TUTORIAL.md。项目按 step0 到 step6 及 e1/e2 分步演示:从朴素工具调用循环被 subtle 攻击泄露,到解释器、Dual-LLM、能力标注逐层加固,最终 STRICT 模式下安全策略阻断攻击,另含侧信道、银行转账完整性策略和标签跨会话存活等扩展示例;离线脚本确定性免费,在线脚本调用真实 LLM。

推荐理由

作者从零实现了 CaMeL 防提示词注入设计,每步都给出可复现的运行脚本和攻击前后对照,便于读者理解隔离与策略如何逐步生效。

来源:GitHub · 去对齐工具与仓库 · github.com