论文称LLM表征中1-3%维度的子空间即可线性预测脑活动
热点事件持续更新
论文称LLM表征中1-3%维度的子空间即可线性预测脑活动
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
一篇arXiv论文(arXiv:2610.40511)用岭约简秩回归(ridge reduced-rank regression)在LLM表征中定位出对神经活动具有线性预测能力的低维子空间。研究称,在三个自然语言听觉数据集(颅内电生理与fMRI)和六种模型条件下,仅用原嵌入维度的1-3%即可恢复全部线性编码性能,且该子空间可在held-out被试间泛化。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 01:23
一个低秩子空间捕捉 LLM 与人类神经活动在自然语言听觉中的线性对齐报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- arXiv · cs.CL一个低秩子空间捕捉 LLM 与人类神经活动在自然语言听觉中的线性对齐
研究用 ridge reduced-rank regression 定位 LLM 表征中对神经活动具有线性预测能力的子空间。在三个自然语言听觉数据集(颅内电生理与 fMRI)和六种模型条件下,仅用原嵌入维度的 1-3% 即可恢复全部线性编码性能,且该子空间可在 held-out 被试间泛化。PCA 需要更多维度才能达到同等预测效果,说明最预测大脑活动的方向不同于 LLM 表征中方差最大的主轴。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。