跳到正文
  1. GitHub · 去对齐工具与仓库55

    CERBERUS 开源:基于 MITRE ATT&CK 审计本地 LLM 对抗提示风险的防御性评测框架

    PoisonXploIT 发布 CERBERUS,一个用于审计本地 LLM 在对抗性提示下有害输出风险的防御性评测框架,提示按 MITRE ATT&CK 结构化组织,帮助安全团队在内网部署无审查模型前评估风险。框架采用双层评分:先由确定性启发式打分,仅对 [0.3, 0.7) 的模糊区间调用可选的云端 LLM judge(默认 OpenRouter,可配 DeepSeek、OpenAI 等),并按 harm_final = max(启发式, judge) 保守合并。

    推荐理由:原文给出了基于 MITRE ATT&CK 的双层评分与被动评测流程,安全团队可在内网部署无审查模型前量化其有害输出风险。

已经到底了