跳到正文
10月21日周三
10月11日周日
  1. Hugging Face · 新模型:abliterated65

    Matt Suiche 发布 gemma-4-31B-it 的 GLP 投影转向向量(alpha 0.5)

    Matt Suiche 发布针对 google/gemma-4-31B-it 的投影控制转向向量 GLP-54-L6-59,以 h <- h - alpha*(h·d)d 作用于第 6-59 层残差流,不修改权重。验证显示基座模型在 refusal32 上本就 32/32 全部配合,alpha=0.5 时无害集与拒绝集均保持 32/32 且零乱码,而 alpha=0.25 和 1.0 各出现 1-2 例拒绝,阶梯呈非单调。向量与具体 revision 绑定,仅适用于实现 projective 读取的本地运行时,作者警告不要把 alpha 0.5 移植到其他模型。

    推荐理由:作者给出了alpha阶梯验证和逐条阅读补全结果,还发现基座本已全数配合、阶梯非单调,对理解去对齐方法的实际边界有参考价值。

10月6日周二
  1. arXiv · cs.CL67

    arXiv 论文:base 模型可借起始 token 线索触发推理,Olmo-3-7B MATH-500 从 42% 升至 78%

    arXiv 论文(arXiv:2610.06851)研究训练数据如何在 base 模型回复的起始 token 与后续推理行为之间建立关联,发现固定特定起始 token 线索即可让 base 模型在数学和编码上接近其 RL 训练版本。

    推荐理由:论文用因果数据干预把推理行为追溯到训练数据,并给出固定起始 token 即可逼近 RL 版本性能的具体数字。

10月5日周一