arXiv · cs.AI· David Nordfors·· 1 天前AI 评分33
语言模型神经元中的原型语境：一种智能架构？
Archetypal contexts in the neurons of language models: an architecture for intelligence?
来源与原文
arXiv · cs.AI
作者：David Nordfors
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.07234v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究在 Qwen3.8-27B 内部验证了此前假设：模型将关系模式与具体主题领域分开存储。神经元分为三组，分别承载原型（如临界点）、主题（如政治、生态、细胞生物学）和语言（如英语、西班牙语、中文）；沉默原型神经元后模型不再识别该模式但仍知道文本主题，沉默主题神经元则相反。神经元映射显示层结构呈"三明治"式：外层承载语言、中层承载主题、核心层承载原型，该结构在预训练中自发形成并出现在所有被映射的模型中。
来源：arXiv · cs.AI · arxiv.org
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。