arXiv综述梳理机制可解释性与AI安全

Fazl Barez等作者发布一篇arXiv综述，系统梳理面向AI安全的机制可解释性研究，核心问题是理解模型内部机制是否真能让模型更安全。文章介绍特征、多义性、Transformer计算与电路等基础，综述特征提取、电路发现与因果验证、自然语言解释中间表示、学习动力学和训练数据归因等方法，并提出统一框架评估机制可解释性主张、按目标与假设刻画六种研究取向。 文章还考察知识编辑、引导与监控如何支撑AI安全，评估其局限与失败模式。作者同时发布代码notebook仓库，用示例复现综述中方法的关键发现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。