热点事件持续更新

研究提出检测LLM对话心理伤害风险因子的方法

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

Nil-Jana Akpinar 在 arXiv 论文（arXiv:2611.06806）中提出一种检测 LLM 心理伤害风险因子的方法：不在用户层面判断伤害是否发生，而是在 AI 回复层面识别八种构成心理伤害风险因子的可观察行为，并聚合信号支持纵向监测。为训练检测器，研究构建了含 47,062 条 AI 回复和 373,873 个标签的合成多标签语料库，并比较嵌入分类器、LLM 评判及级联方案。据论文报告，最佳级联方案在人工标注数据上 macro F1 达 0.79，在 WildChat 数据上比直接用 LLM 评判减少 97.1% 的评判调用。论文称所有检测器均与具体模型无关，只需访问模型输出即可运行，无需获取模型内部状态。

AI 根据报道生成 · 53 分钟前更新

最新进展11月5日 01:22

度量风险而非伤害：检测 LLM 对话中的心理伤害风险因素

报道时间线

沿着报道，了解事件的不同侧面。

11月5日

01:22
arXiv · cs.CL
度量风险而非伤害：检测 LLM 对话中的心理伤害风险因素
一项 arXiv 研究提出在 LLM 回复层面检测可观察的心理伤害风险行为，再聚合信号支持纵向监测。研究界定了八种风险行为，构建含 47,062 条 AI 回复和 373,873 个标签的合成多标签语料库，并比较嵌入分类器、LLM 评判及级联方案，最佳级联在人工标注数据上 macro F1 达 0.79，在 WildChat 上比直接评判减少 97.1% 的 LLM-judge 调用。所有检测器均模型无关，只需模型输出即可运行。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。