研究提出前沿AI失控风险行为框架

1. 20:49
   arXiv · cs.AI

   预测与理解前沿 AI 系统失控风险的行为框架

   研究提出一个行为框架，将前沿 AI 系统的失控风险拆解为动机错位、危害能力与监控规避三个因素，并通过 13 个可测量维度与 29 个评测任务合成单一 LoC 分数。在 13 个前沿模型上，该分数与受控长程风险场景中的失败率高度相关（Pearson r = 0.84），且风险差异无法仅由能力解释。针对诊断出的薄弱点进行微调和监控可降低失败率，同时基本保持通用性能。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。