arXiv · cs.CL· Sangmin Lee·· 18 小时前AI 评分51
arXiv 论文提出测量人格化用户模拟中知识泄漏的方法
Can LLMs Ignore What They Know? Measuring Knowledge Leakage in Persona-Based User Simulation
来源与原文
arXiv · cs.CL
作者：Sangmin Lee
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.39939v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Sangmin Lee 在 arXiv 2610.39939 提出知识泄漏的定义与量化方法：人格化模拟响应混入真实用户不可能知道的信息。在两个模型家族五个 API 端点的评分实验中，即使明确声明人格从未听说过某条目，真实条目与配对合成孪生的评分差依然存在；不利内容条目的对比在不同领域反向，合并分析近似为零（+0.077），而问危害时为 -0.359、问公司机构时为 +0.438。论文被 NeurIPS 2026 UserSim 工作坊接收。
来源：arXiv · cs.CL · arxiv.org