跳到正文
arXiv · cs.CL· Yaowen Ye·· 18 天前精选AI 评分59

arXiv 论文提出自动发现具有意外副作用训练数据集的流水线,产出 6575 个 DSSE

Mass Producing Training Data with Surprising Side Effects

来源与原文

arXiv · cs.CL

作者:Yaowen Ye

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.06324v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

论文提出自动发现具有意外副作用的训练数据集(DSSE)的流水线,用 LLM judges 操作化三个目标,并通过进化、强化学习和 subliminal learning 方法搜索。最终产出覆盖 8 种行为的 6575 个 DSSE,许多可跨模型家族与规模泛化,作者称前沿模型在预测副作用上超过人类,数据集已公开作为测试床。

推荐理由

论文把零散的训练数据副作用案例变成可自动批量发现的任务,6575 个数据集为研究泛化与部署前预测提供了可用的测试床。

来源:arXiv · cs.CL · arxiv.org