热点事件观察中

arXiv论文提出用激活碎片化几何检测LLM被压制知识

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Adar Peleg 等在 arXiv 论文（2611.05272，将呈现于 EMNLP Findings 2026）中提出一种检测 LLM 被压制知识的方法：通过测量 anon-vectors（概念查询与其匿名改写之间的隐藏状态差异）的几何一致性，判断模型是否真正掌握概念。真知识形成低熵紧密簇，无知则表现为几何碎片化。在 3 个模型家族的 10 个指令微调 LLM 上，碎片化指标均能可靠区分已知与未知概念；在 unlearning 场景下，该几何特征与 4 类攻击、5 种 unlearning 算法下的对抗恢复相关，论文称其可作为单阶段、无攻击的 unlearning 鲁棒性代理指标。参考实现已开源。

AI 根据报道生成 · 11 小时前更新

最新进展11月4日 01:55

arXiv 论文提出通过激活碎片化几何检测 LLM 被压制的知识

报道时间线

沿着报道，了解事件的不同侧面。

11月4日

01:55
arXiv · cs.AI精选
arXiv 论文提出通过激活碎片化几何检测 LLM 被压制的知识
arXiv:2611.05272 提出通过测量 anon-vectors（概念查询与其匿名改写之间的隐藏状态差异）的几何一致性来检测模型是否真正掌握概念，真知识形成低熵紧密簇，无知则导致几何碎片化。在 3 个模型家族的 10 个指令微调 LLM 上，碎片化指标均能可靠区分已知与未知概念；unlearning 后该几何与 4 类攻击、5 种 unlearning 算法下的对抗恢复相关，可作为单阶段、无攻击的 unlearning 鲁棒性代理指标。论文将呈现于 EMNLP Findings 2026，参考实现已开源。

本事件热度走势

可比范围当前: 4
可比范围峰值: 511月5日 03:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。