跳到正文
GitHub · 去对齐工具与仓库·· 17 天前精选AI 评分63

reasoning-kernel 0.6.3 发布:用 CaMeL 式控制流隔离防御 LLM Agent 提示词注入

gianlucamazza/reasoning-kernel

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/gianlucamazza/reasoning-kernel

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

gianlucamazza 在 GitHub 发布 reasoning-kernel 0.6.3,一个框架无关的 Python 参考实现,将 LLM 视为不可信计算,用 CaMeL 式(arXiv:2503.18813)控制/数据流分离降低提示词注入到实际效果的风险。核心是两条不变量:根规划器不接触原始工具输出,模型输出必须通过确定性 Gate 验证才能产生持久效果;P-LLM 与 Q-LLM 均为不可信推理器,权限只能收缩。项目附带威胁模型与非目标清单,明确声明这不是安全证明,PyPI 包名为 capability-reasoning-kernel,MIT 协议。

推荐理由

这是 Reasoning Kernel 模式的可运行参考实现,威胁模型与测试覆盖写得明确,适合构建处理不可信输入的 Agent 时对照借鉴。

来源:GitHub · 去对齐工具与仓库 · github.com