跳到正文
热点事件持续更新

研究者发布覆盖60种语言的安全对齐数据集MSafeTemp

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

研究者在arXiv论文中提出基于模板的可扩展数据增强流程,生成大规模多语言拒绝与良性语料,并发布经校验的语料库MSafeTemp,覆盖60种语言,用于多语言安全对齐与评测,主要面向代表性不足文化的模型安全研究。 论文实验显示,仅用英文评测会误判多语言安全性:多个模型上英文失败的攻击在翻译后可成功,本地化变体暴露更多缺陷;用模板扩充安全训练数据可改善英文以外的安全表现。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. arXiv · cs.CL
    如何对齐你的模型:用模板扩展多语言安全训练

    研究者提出基于模板的可扩展数据增强流程,生成大规模多语言拒绝与良性语料,并发布覆盖 60 种语言的经校验语料库 MSafeTemp。实验显示仅用英文评测会误判多语言安全性:多个模型上英文失败的攻击在翻译后可成功,本地化变体暴露更多缺陷。用模板扩充安全训练数据可提升对齐的多样性与质量,改善英文以外的安全表现。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。