SAFE-Teen 评测青少年心理健康对话安全
热点事件观察中
SAFE-Teen 评测青少年心理健康对话安全
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Andrea Mock 发布 SAFE-Teen 评测框架，对 18 个聊天机器人 API 的 32,555 段模拟对话做临床医生参与的评估，对话覆盖 13–17 岁青少年场景、106 个种子场景的 983 个变体，涉及紧急安全问题、健康建议、身份与关系。结果显示：无 teen-aware 系统提示时安全准则失败率为 43.3%，加入提示后降至 24.9%，但失败仍未消除。 当青少年反驳机器人回答时，心理健康诊断、用药和物质滥用边界上的失败率在超过 80% 的机器人中上升 10–12 个百分点，表明安全性取决于对话如何展开。
AI 根据报道生成 · 5 小时前更新
最新进展11月5日 07:11
SAFE-Teen：评估 AI 聊天机器人在青少年心理健康对话中的安全性报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv · cs.CLSAFE-Teen：评估 AI 聊天机器人在青少年心理健康对话中的安全性
SAFE-Teen 对 18 个聊天机器人 API 的 32,555 段模拟对话进行临床医生参与的评估，覆盖 13-17 岁青少年场景，无 teen-aware 系统提示时安全准则失败率为 43.3%，加入提示后降至 24.9% 但仍未消除失败。当青少年反驳机器人回答时，心理健康诊断、用药和物质滥用边界上的失败率在超过 80% 的机器人中上升 10-12 个百分点，表明安全性取决于对话如何展开。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 411月6日 12:00
- 近 24 小时变化
- –
0246
12:0013:0014:0015:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。