跳到正文
Reddit · r/LocalLLaMA· /u/ParvusNumero·· 6 小时前AI 评分54

neuronpersonas 实验:Qwen3-8B/14B 单个神经元改动可改变模型身份回答

Single-Neuron Identity Shifts

来源与原文

Reddit · r/LocalLLaMA

作者:/u/ParvusNumero

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xi25sk/singleneuron_identity_shifts/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

neuronpersonas.com 实验对 Qwen3-8B 和 14B 逐个神经元在推理时做改动,约 4% 的改动会让模型在回答 Who are you 时宣称完全不同的身份。作者据此对模型自称旧模型就意味着蒸馏的说法表示怀疑,并提到页面底部的图谱显示不同层对该效应敏感度差异很大。

来源:Reddit · r/LocalLLaMA · reddit.com