前沿 AI 的「瞭望塔」命题：全生命周期校准的安全评估
一项 arXiv 研究指出，AI 能力部署与安全保障之间的结构性差距无法靠内部评估弥合，从儿童语音助手伤害到青少年自杀、老年人自动拒诊等事故共同指向同一失败：系统默认按成年用户模型评估。研究提出覆盖六个生命阶段的「生命周期脆弱性矩阵」，显示风险在生命两端最高、治理覆盖不对称，并给出自动化仿真、专家红队、部署后监测的三层外部评估框架。
#AI伴侣
新闻、仓库与研究，按时间排列。
arXiv · cs.AIAI 评分3434
arXiv · cs.CLAI 评分5050 RELATE：衡量大语言模型关系取向的评估框架
研究者提出 RELATE，一个以人设条件化测量 LLM 关系取向的评估框架，区分将 AI 定位为持续支持来源的内向型（IF）语言与鼓励现实人际连结的外向支架型（OS）语言。框架将 76 个求助情境与 3 种模拟用户风格组合成 228 个评估刺激，对 7 个 LLM 各进行 6 轮助手对话，共产生 1,596 段对话和 69,194 句助手句子，用基于量表的 LLM 评判加二次评判评估。结果显示第 6 轮的 IF 句子比例高于第 1 轮，且犹豫、间接的用户得到的 OS 语言明显更少。