Reddit · r/LocalLLaMA· /u/ParvusNumero·· 6 小时前AI 评分54
neuronpersonas 实验:Qwen3-8B/14B 单个神经元改动可改变模型身份回答
Single-Neuron Identity Shifts
来源与原文
Reddit · r/LocalLLaMA
作者:/u/ParvusNumero
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xi25sk/singleneuron_identity_shifts/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
neuronpersonas.com 实验对 Qwen3-8B 和 14B 逐个神经元在推理时做改动,约 4% 的改动会让模型在回答 Who are you 时宣称完全不同的身份。作者据此对模型自称旧模型就意味着蒸馏的说法表示怀疑,并提到页面底部的图谱显示不同层对该效应敏感度差异很大。
来源:Reddit · r/LocalLLaMA · reddit.com