arXiv · cs.CL· Boyuan Zhang·· 21 天前精选AI 评分63
arXiv 论文提出词汇级恐惧词表方法,研究模型拒绝行为的词 triggering 机制
Which Words a Model Fears: From a Refusal Direction to a Vocabulary-Wide Fear Lexicon
来源与原文
arXiv · cs.CL
作者:Boyuan Zhang
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.02348v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文(2611.02348)发现对齐模型是否拒绝部分取决于提示词中包含哪些词,而非这些词是否承载请求含义。论文用 crossed differencing 提取跨提示词共享的 refusal 方向,在八个模型中验证沿该方向写入可随剂量单调升降拒绝率;并用该方向为全词表打分得到从恐惧词到勇气词的排序,两个 held-out 测试验证了排序,包括用保留词义的最勇气近义词替换最恐惧词后,良性提示词与有害提示词的回答率均显著上升。
推荐理由
论文用 refusal 方向给全词表排序,并用保留词义的近义词替换在八个模型上验证,方法对研究拒绝行为有可迁移性。
来源:arXiv · cs.CL · arxiv.org