免训练LLM自评测方法Circe提出
热点事件持续更新
免训练LLM自评测方法Circe提出
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
Shuyi Miao等人提出免训练LLM自评测方法Circe,无需参考答案或重复采样即可判断回答是否正确。该方法融合内部与外部信号:内部信号包括衡量早期层注意力更新与后期层注意力诱导FFN输出变化方向对齐的组件交互一致性(CIC),以及刻画逐层隐藏状态轨迹归一化位移与角度变化的表示几何(RG);外部信号则将生成token的平均负对数似然转换为有界似然置信度(LC)分数。 在五个LLM和四个领域的六个benchmark上,该方法区分正确与错误回答的效果优于现有基线,并可泛化到多语言、多模态和开放世界场景。
AI 根据报道生成 · 4 小时前更新
最新进展11月5日 20:45
Circe:基于组件交互一致性的免训练 LLM 自评估方法报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv · cs.AICirce:基于组件交互一致性的免训练 LLM 自评估方法
Circe 是一种无需参考答案或重复采样的免训练 LLM 自评估方法,通过融合内部与外部信号判断回答正确性。其内部信号包括衡量早期层注意力更新与后期层注意力诱导 FFN 输出变化方向对齐的组件交互一致性(CIC),以及刻画逐层隐藏状态轨迹归一化位移与角度变化的表示几何(RG);外部信号则将生成 token 的平均负对数似然转换为有界似然置信度(LC)分数。在五个 LLM 和四个领域的六个 benchmark 上,该方法区分正确与错误回答的效果优于现有基线,并可泛化到多语言、多模态和开放世界场景。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 611月6日 12:00
- 近 24 小时变化
- –
02468
12:0013:0014:0015:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。