Reddit用户用Jacobian透镜分析Qwen3.5-0.8B的Wait推理循环
热点事件观察中
Reddit用户用Jacobian透镜分析Qwen3.5-0.8B的Wait推理循环
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Reddit 用户 /u/DeliciousGorilla 用 Anthropic 的 Jacobian 透镜查看 Qwen3.5-0.8B 陷入 "Wait" 推理循环时的内部表征,并复现 MIT CSAIL 的权重编辑后在 llama.cpp 本地验证。透镜显示:模型决定再写 "Wait" 的位置,从约 60% 深度起读出 Wrong、Nope、Hmm;而真正停止的位置读出 </think>、Answer、Output。背景:MIT 曾仅修改 0.016% 的权重,使该模型 MATH-500 成绩从 7.9% 升至 48.1%。应用该编辑后,原卡住位置变为读出 Verification、Completion、Result。 这些是博主自述的观察结果,其样本量较小;验证在 AMD Ryzen AI 9 HX 370 迷你主机上以 llama.cpp(Vulkan)运行,效果在 Q4_K_M 量化下仍保持,40 次中出现 1 次循环。
AI 根据报道生成 · 9 小时前更新
最新进展11月3日 20:58
Reddit 用户用 Anthropic Jacobian 透镜解析 Qwen3.5-0.8B 的 Wait 推理循环报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- Reddit · r/LocalLLaMA精选Reddit 用户用 Anthropic Jacobian 透镜解析 Qwen3.5-0.8B 的 Wait 推理循环
Reddit 用户 /u/DeliciousGorilla 在 MIT CSAIL 对 Qwen3.5-0.8B 权重编辑(仅改 0.016%,MATH-500 从 7.9% 升至 48.1%)的基础上,用 Anthropic 的 Jacobian 透镜查看模型陷入 Wait 循环时的内部读取:卡住点读出 Wrong、Nope、Hmm,真正停止点读出 </think>、Answer、Output,应用编辑后同位置变为 Verification、Completion、Result。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。