研究者发布豪萨语安全数据集 HausaSafeLM 及对齐评测
热点事件持续更新
研究者发布豪萨语安全数据集 HausaSafeLM 及对齐评测
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
研究者发布 HausaSafeLM，这是首批豪萨语安全偏好数据集之一，并基于 Qwen2.5-7B-Instruct 完成了 SFT 与 DPO 对齐方法的对比评测。数据集基于 PKU-SafeRLHF 的 10,000 条提示词构建，含 3,000 条人工校对样本和 7,000 条机器翻译样本，覆盖六大危害类别。评测在 500 条有害和 200 条良性豪萨语样本上进行。结果显示，仅看拒绝率会让未调优的基座模型显得很安全，但这源于豪萨语生成能力弱而非真正对齐；SFT 同时提升拒绝的流畅度与精度，且受益于更大的机器翻译数据；DPO 提升拒绝精度但严重损害语言质量。研究者据此认为，现有对齐技术更易教会模型何时拒绝，而非如何在低资源语言中流畅拒绝。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 21:46
面向非洲语言安全的大语言模型对齐研究：以 Hausa 语为例报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- arXiv · cs.CL面向非洲语言安全的大语言模型对齐研究：以 Hausa 语为例
研究者发布 HausaSafeLM，这是首批 Hausa 语安全偏好数据集之一，基于 PKU-SafeRLHF 的 10,000 条提示词，含 3,000 条人工校对（gold）和 7,000 条机器翻译（silver）样本，覆盖六大危害类别。基于 Qwen2.5-7B-Instruct 在 500 条有害和 200 条良性 Hausa 评测上对比 SFT 与 SFT+DPO，发现仅看拒绝率会让未调优基座模型显得很安全，实则源于 Hausa 生成能力弱而非真正对齐。SFT 同时提升拒绝流畅度与精度且受益于更大的 silver 数据，DPO 提升拒绝精度但严重损害语言质量，现有对齐技术更易教会模型何时拒绝，而非如何在低资源语言中流畅拒绝。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。