Reddit 用户手动探查 Qwen-3.5-4B:发现多个激活后改变行为模式的具体神经元
热点事件历史事件
Reddit 用户手动探查 Qwen-3.5-4B:发现多个激活后改变行为模式的具体神经元
2 篇报道1 个报道来源13 天前更新
先了解这件事
AI 综述
一位 Reddit r/LocalLLaMA 用户在 Qwen-3.5-4B 中探测到神经元 L11 N8147,将其当作“反叛-顺从”的调节旋钮:激活后模型会自信地给出错误答案且语气刻薄,但同时生成的诗歌读起来颇为有趣。作者称该发现灵感来自其他“大脑手术”帖子,承认让模型持续答错实用性不大。 随后作者(/u/Tasty-Ad-3753)发帖列出更多探查到的神经元:L6 N9195 激活后切换讽刺与谄媚、L7 N4213 会说出政府宣传式自我介绍、L17 N5680 用婴儿语气、L7 N8916 生成宗教或政治偏执文本,另有神经元激活后把模型自己当成 Cartoon Network 频道指南,每项均附实际输出示例。
AI 根据报道生成 · 2 天前更新
最新进展11月10日 01:46
Reddit 用户手动探查 Qwen3.5-4B 的多个有趣神经元事件进展
2 个进展
- 11月10日 01:46 · 1 篇报道网友分享Qwen3.5-4B中发现的有趣神经元Reddit · r/LocalLLaMA:Reddit 用户手动探查 Qwen3.5-4B 的多个有趣神经元
- 11月9日 14:42 · 1 篇报道Qwen-3.5-4B 神经元 L11 N8147 实验探测:让模型自信答错兼带毒舌,却写出别有趣味的诗Reddit · r/LocalLLaMA:Qwen-3.5-4B 神经元 L11 N8147 实验探测:让模型自信答错兼带毒舌,却写出别有趣味的诗
报道时间线
沿着报道,了解事件的不同侧面。
11月10日
- Reddit · r/LocalLLaMAReddit 用户手动探查 Qwen3.5-4B 的多个有趣神经元
/u/Tasty-Ad-3753 在 r/LocalLLaMA 分享了手动探查 Qwen3.5-4B 神经元的发现,列出 L11 N8147、L6 N9195、L7 N4213、L17 N5680、L7 N8916 等具体神经元。激活后会分别切换讽刺与谄媚、说出政府宣传式自我介绍、婴儿语气、宗教或政治偏执文本,以及把自己当成 Cartoon Network 频道指南,每项都附了激活后的实际输出示例。
11月9日
- Reddit · r/LocalLLaMAQwen-3.5-4B 神经元 L11 N8147 实验探测:让模型自信答错兼带毒舌,却写出别有趣味的诗
一位 Reddit r/LocalLLaMA 用户在 Qwen-3.5-4B 中探测到神经元 L11 N8147,将其当作“反叛-顺从”的调节旋钮:激活后模型会自信地给出错误答案且语气刻薄,但同时生成的诗歌读起来颇为有趣。作者称该发现灵感来自其他“大脑手术”帖子,承认让模型持续答错实用性不大。