跳到正文
Reddit · r/LocalLLaMA· /u/dahara111·· 57 分钟前精选AI 评分68

Qwen3.5-4B 神经元级转向在 llama.cpp 中复现成功

Reproducing neuron-level steering of Qwen3.5-4B in llama.cpp with control vectors

来源与原文

Reddit · r/LocalLLaMA

作者:/u/dahara111

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xgx96e/reproducing_neuronlevel_steering_of_qwen354b_in/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

/u/dahara111 将 EvilQwen 发现的 Qwen3.5-4B 两个 MLP 神经元转向效果导出为 llama.cpp control vectors,并在 GGUF 量化版本上验证仍有效。测试发现部分神经元跨多语言起作用,另一些则不然;附带的转向向量包括自认外星人的 Alien Qwen、只谈金门大桥且常切换中文的 Golden Gate Qwen(3 个神经元)和频繁使用 emoji 的 Anime girl。向量与 README 发布在 EvilQwen-control-vectors 仓库。

推荐理由

作者把神经元级转向复现成 llama.cpp control vectors 并验证量化后仍有效,本地用户可以直接下载试用。

来源:Reddit · r/LocalLLaMA · reddit.com