arXiv · cs.CL· Zhanghao Hu·· 2 天前精选AI 评分58
GroupAssistBench 发布:基于真实群聊的记忆基准,测出会召回不等于会用
One Assistant, Many Memories: Benchmarking Real-World Group Assistance When Recall Is Not Enough
来源与原文
arXiv · cs.CL
作者:Zhanghao Hu
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.04867v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究团队发布 GroupAssistBench,首个基于真实群聊与已部署群助手的记忆基准,覆盖 50 个群、80,299 条消息,标注成本超 $53K。基准分层评估记忆召回(L1)与无固定答案的记忆使用(L2),覆盖单源、分布式和冲突记忆(M1-M3)。评测显示最强记忆系统在召回上接近全上下文,但在使用上差距明显;将检索到的记忆关联并把记忆事实绑定为回复约束的两项改进带来一致提升。
推荐理由
基准用真实群聊而非合成对话,测出记忆系统在召回之外的使用能力短板,评测维度可迁移到自己的记忆方案。
来源:arXiv · cs.CL · arxiv.org
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。