Reflection 发布开源模型 Beam 安全训练与评估方法

1. 01:00
   AIHOT · 精选

   Reflection 详解开源模型 Beam 的安全训练与评估方法

   Reflection 发布博文，讲解其开源权重模型 Beam 的安全训练与评估方法，并推出开源安全研究计划 Project Iris。Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求，为所测开源权重模型中最高，同时遵守 82% 的安全相关无害请求。安全对齐教师模型从 100B 增至 501B 参数后，过度拒绝相对下降 48.7%。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。