跳到正文
只看一手#自我模型
  1. arXiv · cs.CL52

    CREDIT：反事实训练提升大语言模型对参考信息的自归因能力

    arXiv 论文 arXiv:2610.35295 提出 CREDIT 方法，用反事实标签直接监督最终答案的自归因，无需人工标注，让模型在回答受附带信息影响时明确说明。实测显示11个前沿模型大多很少标注有影响的信息，在4个开源模型（含2个蒸馏推理模型）上 CREDIT 优于推理级微调和提示词基线，并区分了因建议而改变的答案与模型本就会给出的答案，收益部分迁移到未见信息类型。

    推荐理由：论文用反事实标注直接监督最终答案的自归因，给出11个前沿模型普遍不标注的实测基础和无需人工标注的训练方法。

  1. arXiv · cs.CL52

    arXiv 论文：跨模型 in-context 神经反馈揭示 LLM 对自身激活的控制能力有限

    arXiv 论文 arXiv:2610.20179 提出跨模型 in-context 神经反馈方法，测试 5 个家族共 10 个 9B 到 32B 的开放权重模型，检验语言模型能否控制自身激活。部分模型能明显移动自己的激活分数，但幅度不超过同等能力的写手模型；预填固定句子后仅 3 个模型表现出小而稳定的控制效应；在欺骗监测器实验中无模型能降低监测分数，仅 1 个模型能抬高它。作者认为这种控制能力尚不构成对激活监测器的威胁，但需随模型演进持续追踪。

    推荐理由：论文用跨模型写手和预填句子的实验设计，把任务能力与对自身激活的真实控制区分开，结论有明确证据支撑。

已经到底了