跳到正文
  1. arXiv · cs.CL65

    Persona Hierarchy Model:解释大模型微调中的情境泛化机制

    Jiachen Zhao 在 arXiv 发布论文提出 Persona Hierarchy Model,用共享默认人格解释微调行为在不同情境下的泛化差异。基于 Qwen3-4B 等共 120 个微调模型、4 种行为和 15 个训练情境的实验显示,泛化窄度与训练情境人格和默认人格的相似度正相关(Pearson's r = 0.72);在默认情境下先微调可拓宽后续泛化。作者还提出 persona-preserving regularization(PPR),在 RL 中将 reward hacking 从 42-55% 降至最多 0.2%,同时保留准确率提升。论文链接 https://arxiv.org/abs/2610.09384v1

    推荐理由:论文用 120 个微调模型的数据解释行为为何跨情境泛化,并给出能将 reward hacking 压到 0.2% 的正则化方法。

  2. arXiv · cs.CL67

    arXiv 论文提出 AO-DA 解耦架构,将边缘 LLM Agent 的逻辑推理与人设表达分离以抵御上下文污染

    Masaaki Nakatsu 在 arXiv:2610.09772 提出 Decoupling Architecture(AO-DA),在单个 INT4 基座模型上用热插拔 LoRA 将逻辑推理(What)与人设表达(How)分成两条推理路径,逻辑路径只接收核心回合并输出可验证的 Micro-State。

    推荐理由:论文用 480 次同模型消融给出分离架构抗上下文污染的量化证据,并诚实地指出 4B 模型上分离同样失效。

  1. arXiv · cs.CL52

    PaSS 用迭代零空间投影提取 LLM 人格子空间以调制模型行为

    论文提出 PaSS,一种推理时人格控制范式,将人格建模为模型潜空间中的多维子空间,通过迭代概念擦除和 INLP 线性分离人格相关方向,无需重训练即可放大或抑制内容中已存在的人格特质。

    推荐理由:论文把人格建模为多维子空间而非单一方向,并在 MATH-500 等任务上给出与单方向方法的调制效果对比。

已经到底了