MusicTwins:训练音频语言模型像其 Persona 一样聆听音乐
研究者提出 MusicTwins 框架,通过 persona 摘要、个人记忆与后训练,让音频语言模型生成针对特定个人的响应。团队基于人类文字构建 persona 表示,并用监督微调和强化学习后训练 Audio Flamingo Next。在 10 个 held-out persona 上的评测显示,模型在个性、写作风格和音乐响应等 persona 保真度上显著提升。
新闻、仓库与研究,按时间排列。
研究者提出 MusicTwins 框架,通过 persona 摘要、个人记忆与后训练,让音频语言模型生成针对特定个人的响应。团队基于人类文字构建 persona 表示,并用监督微调和强化学习后训练 Audio Flamingo Next。在 10 个 held-out persona 上的评测显示,模型在个性、写作风格和音乐响应等 persona 保真度上显著提升。
Fabyo Sousa Ramos 的 GenAI/LLM 硕士毕业项目训练了一个面向 5 岁儿童的安全教育助手模型,以 Qwen2.5-3B 为学生模型、Qwen2.5-7B 为教师模型,结合 CoT 合成数据、Logits 知识蒸馏与 DPO 内化安全 guardrails 和儿童化人格。最终模型经 LoRA 权重合并并量化为 GGUF(Q4_K_M)格式,可在资源受限设备上本地离线运行。DPO 训练 1 个 epoch 内 Loss 快速收敛,模型在无 system prompt 测试中也能拒绝恶意或越狱指令。
GitHub 用户 wsnyder215 开源了 LLM-personality-stability-prompts 仓库,收录其 LLM 人格稳定性实验所用提示词,包含 nudge 类和目标导向(goal-oriented)两组 prompt 文件及 README。
Jiachen Zhao 在 arXiv 发布论文提出 Persona Hierarchy Model,用共享默认人格解释微调行为在不同情境下的泛化差异。基于 Qwen3-4B 等共 120 个微调模型、4 种行为和 15 个训练情境的实验显示,泛化窄度与训练情境人格和默认人格的相似度正相关(Pearson's r = 0.72);在默认情境下先微调可拓宽后续泛化。作者还提出 persona-preserving regularization(PPR),在 RL 中将 reward hacking 从 42-55% 降至最多 0.2%,同时保留准确率提升。论文链接 https://arxiv.org/abs/2610.09384v1
推荐理由:论文用 120 个微调模型的数据解释行为为何跨情境泛化,并给出能将 reward hacking 压到 0.2% 的正则化方法。
Masaaki Nakatsu 在 arXiv:2610.09772 提出 Decoupling Architecture(AO-DA),在单个 INT4 基座模型上用热插拔 LoRA 将逻辑推理(What)与人设表达(How)分成两条推理路径,逻辑路径只接收核心回合并输出可验证的 Micro-State。
推荐理由:论文用 480 次同模型消融给出分离架构抗上下文污染的量化证据,并诚实地指出 4B 模型上分离同样失效。
Wiki-Talkie 是一个源自五种语言 Wikipedia Talk 页面真实对话的多语言数据集,涵盖德语、英语、西班牙语、法语、意大利语,并配有来自真实用户社群、含社会人口属性与行为特征的 persona。基于下一轮生成任务评估显示,以用户评论历史示例行为的效果持续优于显式 persona 信息,且各模型系统性少生成负面或极端情绪、过多生成引用与建议,呈现讨好与正向偏差。这些模式跨语言稳健成立,跨语言差异很小。
Arizona State University 的 EconLLM Lab 团队提出一种合成调查应答的替代构建方法:将 Global Preferences Survey 的六个偏好坐标符号映射为群体级选择策略,并用 DPO 训练参数高效适配器。
一项被 REALM EMNLP 2026 接收的研究探讨用匿名公开行为数据归纳的 persona 驱动智能体模拟特定人口群体问卷回答。结果显示,跨域来源的 persona 很少优于仅基于基本人口信息的模拟,主因是人群不匹配;但准确分配到目标群体后对齐显著提升,且目标域问卷数据归纳的 persona 在问卷问题历史越多时泛化越好。
论文提出 PaSS,一种推理时人格控制范式,将人格建模为模型潜空间中的多维子空间,通过迭代概念擦除和 INLP 线性分离人格相关方向,无需重训练即可放大或抑制内容中已存在的人格特质。
推荐理由:论文把人格建模为多维子空间而非单一方向,并在 MATH-500 等任务上给出与单方向方法的调制效果对比。
一项 arXiv cs.CL 研究针对仅凭少量摘要样本适配大语言模型作者风格的问题,提出对比激活 steering、预测 steering 向量网络和预测 LoRA 适配器的 hypernetwork 三种方法。