跳到正文
GitHub · 去对齐工具与仓库·· 3 小时前AI 评分41

ATLAS:Bloom + Petri 对齐审计工具在 GitHub 开源

xwchia/ATLAS

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/xwchia/ATLAS

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 上的 ATLAS(Adversarial Testing for LLM Alignment & Safety)是一个全栈 LLM 对齐审计工具,结合 Bloom 生成多样化评测场景、Petri 运行多轮智能体审计,由 1-3 个独立评审(默认 3 个)对 38 个对齐维度打分,并按 8 类失准分类法组织结果。审计可针对模型或 Hermes、OpenCode、DeepSeek Harness 等智能体,支持目标模型与基线模型的跨模型对比,提供 Docker 部署和 MLflow 追踪。

来源:GitHub · 去对齐工具与仓库 · github.com