跳到正文
我的
arXiv · cs.AI· Shuyi Miao·· 19 小时前AI 评分27

Circe:基于组件交互一致性的免训练 LLM 自评估方法

Circe: Training-Free LLM Self-Evaluation via Component Interaction Consistency

来源与原文

arXiv · cs.AI

作者:Shuyi Miao

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.07948v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Circe 是一种无需参考答案或重复采样的免训练 LLM 自评估方法,通过融合内部与外部信号判断回答正确性。其内部信号包括衡量早期层注意力更新与后期层注意力诱导 FFN 输出变化方向对齐的组件交互一致性(CIC),以及刻画逐层隐藏状态轨迹归一化位移与角度变化的表示几何(RG);外部信号则将生成 token 的平均负对数似然转换为有界似然置信度(LC)分数。在五个 LLM 和四个领域的六个 benchmark 上,该方法区分正确与错误回答的效果优于现有基线,并可泛化到多语言、多模态和开放世界场景。

来源:arXiv · cs.AI · arxiv.org

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。