arXiv · cs.CL· Arvind Raghavan·· 18 天前AI 评分34
CoBe:会话式反事实文本编辑基准发布,前沿模型平均仅得 58.05%
CoBe: A Benchmark For Conversational Counterfactual Text Editing
来源与原文
arXiv · cs.CL
作者:Arvind Raghavan
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.13057v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者推出反事实文本编辑基准 CoBe,测试模型在对话式提示下零样本修改文本场景、同时保留未受因果影响事实的能力。基准含 2000 道题,覆盖医疗、科学与工程、商业及日常场景;前沿模型平均得分 58.05%,且常退化为关联式生成而非保留因果结构。性能与模型规模及输出 token 长度均不一致相关,表明问题可能源于训练目标而非模型容量不足。
来源:arXiv · cs.CL · arxiv.org