weight-edit-lab：LLM无梯度手写权重修复ReLU MLP实验

demirelo 发布 weight-edit-lab 仓库，测试前沿 LLM 能否不用梯度、逐条手写权重修复带缺陷的 ReLU MLP。在 5.6k 和 76.5k 参数网络上，30 条以一句话修正引导的编辑链在 50,000 个留出输入上与理想编辑完全一致；Codex gpt-6-astra 和 gpt-6.1-sol（reasoning effort high）手写权重的准确率达 99.3–99.6%，高于 8,192 标签微调的 95.4–97.4%。每步成本约 70–90 秒、20k–90k tokens。 实验的关键条件是：修正信息必须以一句话给出；若只给样例不给句子，模型会推断出似是而非的错误规则，准确率降到 88–94%。仓库作者同时明确表示，该实验并未证明权重编辑优于直接改代码。

AI 根据报道生成 · 13 小时前更新