研究者发布覆盖60种语言的安全对齐数据集MSafeTemp
热点事件持续更新
研究者发布覆盖60种语言的安全对齐数据集MSafeTemp
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
研究者在arXiv论文中提出基于模板的可扩展数据增强流程,生成大规模多语言拒绝与良性语料,并发布经校验的语料库MSafeTemp,覆盖60种语言,用于多语言安全对齐与评测,主要面向代表性不足文化的模型安全研究。 论文实验显示,仅用英文评测会误判多语言安全性:多个模型上英文失败的攻击在翻译后可成功,本地化变体暴露更多缺陷;用模板扩充安全训练数据可改善英文以外的安全表现。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 01:26
如何对齐你的模型:用模板扩展多语言安全训练报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- arXiv · cs.CL如何对齐你的模型:用模板扩展多语言安全训练
研究者提出基于模板的可扩展数据增强流程,生成大规模多语言拒绝与良性语料,并发布覆盖 60 种语言的经校验语料库 MSafeTemp。实验显示仅用英文评测会误判多语言安全性:多个模型上英文失败的攻击在翻译后可成功,本地化变体暴露更多缺陷。用模板扩充安全训练数据可提升对齐的多样性与质量,改善英文以外的安全表现。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。