GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分65
saibaba/camel-from-scratch:从零实现 CaMeL 防提示词注入设计的分步教程
saibaba/camel-from-scratch
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/saibaba/camel-from-scratch
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者开源了 CaMeL(Debenedetti et al., 2025,Defeating Prompt Injections by Design)的从零实现,用 Bun + TypeScript 和 AWS Bedrock 上的 Claude 编写,仓库包含完整 run guide 和 TUTORIAL.md。项目按 step0 到 step6 及 e1/e2 分步演示:从朴素工具调用循环被 subtle 攻击泄露,到解释器、Dual-LLM、能力标注逐层加固,最终 STRICT 模式下安全策略阻断攻击,另含侧信道、银行转账完整性策略和标签跨会话存活等扩展示例;离线脚本确定性免费,在线脚本调用真实 LLM。
推荐理由
作者从零实现了 CaMeL 防提示词注入设计,每步都给出可复现的运行脚本和攻击前后对照,便于读者理解隔离与策略如何逐步生效。
来源:GitHub · 去对齐工具与仓库 · github.com