arXiv · cs.CL· Nil-Jana Akpinar·· 16 小时前AI 评分43
度量风险而非伤害：检测 LLM 对话中的心理伤害风险因素
Measuring Risk, Not Harm: Detecting Psychological Harm Risk Factors in LLM Conversations
来源与原文
arXiv · cs.CL
作者：Nil-Jana Akpinar
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.06806v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究提出在 LLM 回复层面检测可观察的心理伤害风险行为，再聚合信号支持纵向监测。研究界定了八种风险行为，构建含 47,062 条 AI 回复和 373,873 个标签的合成多标签语料库，并比较嵌入分类器、LLM 评判及级联方案，最佳级联在人工标注数据上 macro F1 达 0.79，在 WildChat 上比直接评判减少 97.1% 的 LLM-judge 调用。所有检测器均模型无关，只需模型输出即可运行。
来源：arXiv · cs.CL · arxiv.org
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。