GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分62
Niyam-AI 开源：为自主 LLM 智能体工具调用提供可密码学验证的护栏
Addyk-24/Niyam-AI
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Addyk-24/Niyam-AI
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 仓库 Addyk-24/Niyam-AI 发布，为 LLM 智能体的每次工具调用附加 zk-SNARK 证明，第三方约 50.7 ms 即可验证且无需模型权重。在 Agent-SafetyBench 2,000 个场景的 5 折交叉验证中 F1 达 88.8%，高于 NeMo Guardrails（40.4%）、GPT-OSS-Safeguard-20B（46.2%）和 Llama Prompt Guard 2（66.8%），但作者注明 Judge 拟合了基准分布而基线为零样本；红队 18 个攻击向量修复后全部拦截，已知缺口是门控读取的 PyTorch 输出与被证明的电路输出尚未绑定，证明生成约 1.7 秒，适合低频高风险操作。
推荐理由
仓库同时给出了与 NeMo Guardrails 等基线的 F1 对比、消融、红队结果和已知缺陷说明，便于读者评估 zk-SNARK 护栏的真实代价。
来源：GitHub · 去对齐工具与仓库 · github.com