arXiv · cs.CL· Siqi Shen·· 2 天前AI 评分50
当人设变得有害：用全球公民价值观对齐引导 LLM
When Personas Become Harmful: Guiding LLMs with Global Citizenship Values Alignment
来源与原文
arXiv · cs.CL
作者：Siqi Shen
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.33899v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者构建了包含 11k 个争议话题和基于 Schwartz Value Survey 价值维度人设的数据集，通过 agentic pipeline 在对齐良好的商业 LLM 上以超过 47% 的成功率诱导出有害回应。研究以 UNESCO 全球公民原则作为区分正当价值表达与有害行为的底线，并提出可在推理时平衡人设遵循与安全性的可控对齐模型，在多数样本上比基线更安全且更贴合人设。该论文已被 EMNLP 2026 主会接收。
来源：arXiv · cs.CL · arxiv.org