arXiv · cs.CL· Dmitry Scherbakov·· 10 天前精选AI 评分52
arXiv 论文：用 2M 合成故事扩展概念向量以研究 AI 对齐与可解释性
From Stories to Features: Scaling Concept Vectors for AI Alignment & Interpretability
来源与原文
arXiv · cs.CL
作者：Dmitry Scherbakov
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.24556v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出用合成概念—对抗故事对的激活均值差构造特征向量，覆盖 1,036 个对齐相关概念、2M 条多语言多题材合成故事并公开发布。在三个模型家族的六个模型上，这些向量可泛化到聊天对话与网页文本的概念检测，形成跨模型可解释的几何结构，注入激活后可因果地引导模型行为，并被用于分析越狱攻击与数学及智能体推理过程中的模型表征。
推荐理由
这项工作用合成故事对构造特征向量，给出了跨六模型的可验证泛化和因果操控结果，是研究模型概念表征的可迁移路线。
来源：arXiv · cs.CL · arxiv.org