新闻、仓库与研究，按时间排列。
论文提出 AdaRSI，一种具身智能体的按需递归自我改进（RSI）框架，解决 VLA 在未见长程任务中途中失败的问题。编码 agent 先改进技能与 harness，再通过从保存状态重试失败子步骤来归因持续失败，仅对仍不可靠的子步骤用自采演示和先前任务经验做微调。在 RoboCasa365 全部 50 个目标任务上，以 GR00T N1.5 为执行器且无人类演示，AdaRSI 在三个套件上均提升 VLA，将未见复合任务成功率从 4.6% 提至 13.8%；相比微调每个子步骤，成功率略高而仅用 28% 的 GPU 时间和 22% 的自采演示。论文链接 https://arxiv.org/abs/2610.20474v1
推荐理由：论文给出按需微调与全量微调的对照数据，GPU 时间和自采演示用量都大幅降低，方法细节可直接参考。
一项 arXiv 研究审计了 10 个开源模型在 8 种语言下的刻板印象偏见，发现全部 70 个模型-语言组合的平均偏见分数都低于英文水平，但低平均分并不等于更公平：同一测试项的英文分数与其翻译后分数的相关性仅 0.23（忠实翻译为 0.27），远低于英文改写间的 0.48。研究还指出三种会悄悄抹除偏见信号的常见流水线错误，并开源了代码。
ReaDy 是首个利用混合线性注意力（HLA）模型循环状态进行推测解码中按位置上下文检索的方法，通过可学习查询和轻量 state reader 补充草稿上下文。基于 DSpark 框架，在数学、代码、对话七项基准上，ReaDy 配合 Qwen3.8-27B 在单张 NVIDIA B200 上实现平均 3.16× 解码加速，较 DSpark 吞吐量平均提升 7.97%、接受长度提升 8.50%。代码已开源。
VASPO（Value-Augmented Self-Distillation Policy Optimization）在 PPO 框架内整合自蒸馏与特权价值估计：critic 从预测续写回报计算 token 级优势，自教师通过有界概率比调制部分正优势。在六个数学推理 benchmark 上，VASPO 在 Qwen3-4B 和 OLMo3-7B 上分别比 PPO 平均准确率提升 2.59 和 1.81 个百分点，并在 Knights and Knaves 上取得评测方法中的最高平均准确率。代码已开源。
Qiushi Sun 等人在 arXiv 发布论文，提出 PrismaForge 数据管线并训练开源多模态代码模型 PrismaCoder-9B 与 PrismaCoder-35B。该管线用合成的 rubric 把程序正确性、构建质量与渲染后视觉效果分解为可核查标准，同一 rubric 既筛选监督语料又驱动强化学习；据此构建的 PrismaCoder-2M 是目前最大、最多样的开源多模态代码智能数据集，两个模型在开源中大幅领先并接近闭源系统，代码与数据已开放。
推荐理由：论文把渲染正确性拆成可核查的评分标准，同一套 rubric 既筛数据又当强化学习奖励，方法可迁移到其他多模态任务。
arXiv 论文提出 PerSo 基准，基于 Reddit ChangeMyView 的真实说服对话，用 LLM-in-the-loop 流水线构建评测任务并经人工标注验证，同时评估 LLM 的认知智能与行为智能。对多个 LLM 的评测显示，性能总体随模型规模提升但在不同维度表现不一：最强模型在行为任务上略超最佳人类，而认知任务上最佳人类参与者仍领先。
arXiv 论文《Scaling Discovery Requires Forgetting》提出，LLM 智能体自动科研的三种扩展策略（单智能体长迭代、并行、并行通信）都会因历史累积而停滞，智能体被自身过往尝试锚定，编辑越来越少且越来越小。论文的方法是周期性丢弃搜索状态（包括各智能体会话与候选历史），从当前最优候选重启搜索。在启发式编程、kernel 优化和模型训练四类任务上，相比并行智能体最高提升 15%，相比单智能体最高提升 39%。论文链接：https://arxiv.org/abs/2610.20563v1
推荐理由：论文指出 LLM 智能体自动科研随历史累积而停滞，提出定期丢弃搜索状态重启，在四类任务上给出量化对比。
Bruno Menezes 在 arXiv 发布 Manacá-1B-Instruct-2，对从零训练的 1.72B 参数巴西葡萄牙语模型 Manacá-1B 做第二代后训练对齐，SFT 语料含 291,223 条样本。论文记录三次 DPO 尝试均为负结果，包括训练 reward margin 达 1.0 但自由生成毫无变化的情况；安全性来自经三轮迭代的安全 SFT，安全 SFT 中通用数据占比从 10% 到 60% 的受控扫描显示过度拒绝曲线非单调，拐点在 40-50%。最终模型与四个外部 PT-BR 模型对比，采用 Wilson 置信区间和带 Holm-Bonferroni 校正的配对 McNemar 检验，其安全区间下界 94.1% 高于全部四个基线的上界。
推荐理由：论文完整记录了三次失败的 DPO 和安全 SFT 数据配比扫描，还披露了 LLM 评审静默拒打分的方法学问题，可复现细节齐全。
一项 arXiv 研究提出 Cross-Interface Policy Regularization（CIPR），一种自监督目标，通过让策略在两个等价接口下动作分布的 KL 散度最小化，实现跨接口一致性训练。在 agentic function calling 上，held-out 接口扰动使 post-trained agent 准确率下降近 25%，CIPR 恢复 10.5%，且不影响原接口准确率。
Yingfa Chen 在 arXiv 发布 Latent Compaction 方法，通过测试时训练学习文档级紧凑 KV cache，模型权重全程冻结，训练只用关于文档的通用提示词、不接触下游问题与答案。在 RULER 上 32 倍压缩达到 96.7% 准确率，对比 KVZip+ 的 40.0%；在 RULER、LongBench 和 Phonebook Lookup 上均超过预算匹配的压缩基线，并在 Qwen3 与 MiniCPM5 两个模型上取得检索提升。代码已开源。
推荐理由：论文给出在 RULER 上 32 倍压缩下 96.7% 对 40.0% 的对照数据，可据此评估 KV cache 压缩方法的实际保留能力。
INTACT 方法用小型外部编码器在冻结骨干模型上诱导潜在推理，以连续 soft-token 替代自然语言思维链，经知识蒸馏训练后再按答案正确性强化。在 1B 到 8B 的四个冻结骨干上，Llama-3.2-3B 的 GSM8K 从 75.8% 提升至 79.3%，Qwen2.5-3B 从 77.6% 提升至 79.7%，单题端到端延迟降低 19%，并在 3B 和 8B 规模上超过所评测的潜在推理基线。
研究者提出模型作者归属方法 ATLAS，通过源条件文本建模比较文本在各模型下的 likelihood 来识别生成来源，并在 token 级聚合证据。其配套基准 MAABench 覆盖域与版本变化的 OOD 场景，当生成域和模型版本同时变化时 ATLAS 达到 74.27% 准确率，比最强基线高 9.00pp。该方法还可通过测量目标 LLM 最接近哪个源模型来识别知识蒸馏的教师模型。
arXiv 论文提出基于道德基础理论（MFT）的多智能体越狱框架，将被拒的有害请求改写为符合某种道德基础的表述并辅以先例强化。在三个越狱数据集、五个开源与闭源模型上测试，单次尝试即有较高成功率，重复尝试后进一步提升；分析还发现现有安全基准所违反的道德基础分布不均，集中在模型已有偏见的维度上。
推荐理由：论文用道德重写框架在五个模型上实测越狱成功率，并指出安全基准在道德维度上的分布偏差。
Zhenhe Wu 在 arXiv 发布 PA1-OPD 方法，在语料前缀的蒸馏基础上加入学生模型采样一步后的教师反馈，扩展被监督的状态同时保留 next-token 预测与语料路径 KD。在两个持续预训练设置中，全覆盖方式在 C4、PG-19 和 Pile 的每个评测检查点上 held-out cross-entropy 均优于 KD；Stage2 中选取学生 surprisal 最高的 10% 根节点，使相对 next-token 训练的 Macro cross-entropy 增益比 KD 提高 48.85%。论文地址 https://arxiv.org/abs/2610.19601v1。
PN-Mix 是一种针对 RoPE 架构 decoder-only LLM 的混合精度 key cache 量化方法，通过 RoPE 通道对的 attention logit 扰动分析识别显著通道对，在 prefill 阶段一次性分配更高精度并在解码全程复用。2.26-bit 平均精度下，其在推理、代码生成和 AIME 基准上达到与 2.32–2.39-bit 先前方法相当或更好的准确率，且可平滑降至 1.5 bits。
一项预注册复现实验向 gemini-3.1-pro-preview 发送相同的 162 个请求（英、爱沙尼亚语、芬兰语各 54 个问题），分三波在约十小时内完成，并于 20.3 天后复测。基于九次历史回答的品牌提及率预测取得 Brier 0.0281、log loss 0.126，优于品牌历史（0.104）与总体比率（0.234），且在全部九个问题族中成立（p = 0.0039）。8 小时波中 202 个全票一致的单元在 D1 有 194 个未变、无一反转，表明品牌提及计数具有可操作的持久性。
arXiv 论文指出多模态大语言模型（MLLM）机器遗忘评测存在三大陷阱：缺少 heldout 评估区分概念级遗忘与实例级过拟合、依赖合成微调知识而非预训练真实知识、以及用相同训练设置不公平地比较不同遗忘方法。作者提出基于真实知识的 GEMMU 基准，重新评估代表性遗忘方法后发现显著泛化差距，并挑战了此前基准的结论。
arXiv 论文（arXiv:2610.19614）提出将 LLM Agent 轨迹视为动作与环境观测共享嵌入空间中的路径，同一任务的成功与失败 rollout 在该空间中可分离，简单判别器在三个 Agent 基准和三个策略模型上预测 held-out rollout 结果最高达 0.95 AUROC。作者进一步推出基于 transformer 的 Precog-RM，通过元学习使结果预测可在 few-shot 设定下泛化到未见任务和模型，并在轨迹终止前给出置信预测。部署为 GRPO 在 Tau2-Bench 上的早停控制器时，最多削减 47.3% 训练 FLOPs 且性能与基线 GRPO 相当。
推荐理由：论文给出跨三个基准和三个策略模型的 AUROC 数据，并量化了 GRPO 训练最多省 47.3% FLOPs 的收益。
论文提出 DAGFormer，一种由联合训练的拓扑预测器规划跨层连接的 Transformer 语言模型，在标准残差连接之外增加从浅层到深层的直接连接，并按输入 token 控制每条连接强度，与逐层单独设置连接的现有跨层路由架构不同，它一次性规划整个模型的路由。
研究者提出 SAE-IDF 方法，用稀疏自编码器（SAE）将符号在其原生上下文中编码为稀疏码，并按稀有度重加权后跨系统匹配。在 6 类符号系统的 12 个任务上，SAE-IDF 使用 Gemma-2-9B 在全部任务上、使用 Llama-3.1-8B 在除一个任务外均优于同模型的稠密基线，最高领先 45 分，且稀疏码每一维都有人类可读含义。
研究者发布 J-tau，首个公开的日语基准，用于评估在交互式客服场景中使用工具的 LLM 智能体。该基准通过对 tau-bench 进行机器翻译、实体适配和人工审校实现日语本地化，并修复了原 tau-bench 中的无效任务和分数聚合错误两类缺陷。实验显示 J-tau 比简单机器翻译版本产生更少的评估错误。
DGS-WM（Decision-Guided Selective World Modeling）是一种面向语言智能体的策略-世界建模协同训练方法，通过决策引导的观测筛选和置信度自适应加权，仅对具有决策价值的观测单元施加世界建模监督，并与 RL 损失联合优化。在单跳/多跳问答和交互式网页任务等多项 benchmark 上，该方法在不同模型规模和 RL 算法下均取得一致提升，表现优于全观测世界建模方法。
研究在冻结的 Qwen3.5-4B 骨干上训练共享候选答案读取器，统一直接决策与按需可中断推理，通过 benefit gate 启动推理、自然状态触发显式读取、熵规则接受答案并取消生成。在 ProofWriter、LogiQA 2.0 和 ARC-Challenge 共 768 道题上，准确率从直接读取的 70.96% 升至 84.38%；相比 512-token 终端读取提升 7.29 个百分点、平均输出开销仅增 2.25%，相比 1,024-token 终端读取流水线时间下降 46.30%。
论文提出 Selective Rank-Preserving SFT（SRP-SFT），用基于参考缩放下界的 hinge 软目标在 teacher-forced 前缀处保持选定的非目标 token 边距关系，并推导了违反边距的 KL 代价、可行域及有限步降低总违反的条件。在 Qwen3-4B-Base 与 UltraFeedback 的一轮实验中，三个训练种子下 MATH-500 和代码生成分数均超过 CE 与 LP-SFT；种子 1234 下 MATH-500 pass@1 从 49.56% 升至 54.56%，四指标代码均值从 65.91% 升至 69.50%。论文还给出排序对照、held-out 缓存诊断、敏感性扫描及六个额外骨干上的验证。
推荐理由：论文给出 SRP-SFT 的可行域刻画与多种子实验数据，读者可对照 CE 和 LP-SFT 评估该微调目标的实际收益。
Xin Li 在 arXiv 发布 SYNC（Symbol-Indexed Neural Communication），一种免微调、免学习翻译器的词索引接口，让异构语言模型通过共享词表索引交换事实。发送方仅凭描述从共享词表选词并发送索引，接收方用自己的词方向向量将事实写入隐藏状态；在 3 个发送方与来自 5 个模型族的 9 个接收方上，新场景四问成功率 72.0-98.3%，最高比中层写入高 96 个百分点，两个最大接收方与纯文本持平；任务无关探针提前预测可用写入深度 45/45 命中，新布局下逐条事实消息保持 89.6-100% 成功率。项目页、代码与数据已公开。
推荐理由：论文给出跨架构模型间免训练通信的具体接口设计和多组收发模型组合的实测数据，方法可复现且代码数据已开放。
BANGLAPLAN 基准发布，包含 1,000 道基于孟加拉国日常生活的约束规划与决策题，覆盖 10 个任务族、4 种语域和 8 种结构化 JSON 答案类型。评测 11 个开源与闭源模型配置显示：GPT-6.1 Sol 达 98.7%，Qwen3.5-27B（thinking）达 80.3%，直答配置最高仅 30.9%，11 个中 7 个低于恒答 infeasible 基线；难题主要降低规划构建准确率，不可行性检测更稳健。
RouteWeaver 是一个统一 LLM 路由框架，将单轮、多轮与 agentic 路由模式整合进单一策略，联合学习模式选择与模式内模型执行。其配套的 COMET-GRPO 训练方法将优势信号解耦到两个决策层级，并引入渐进式探索。在数学、代码、知识、逻辑推理与事实召回评测中平均准确率达 61.4%，较最强基线相对提升 11.03%，并在全部五个领域超越所有对比基线。
arXiv 论文发现 Mamba 在 query-first 检索设置下仍大幅落后于 Transformer，说明瓶颈不止于固定大小循环状态容量。研究显示 Mamba 的 selection gates 足以影响输出，但与查询相关的表征信号随模型深度才逐渐出现，关键层的 gates 尚未对齐该信号，导致检索失败。
arXiv 论文提出 ReSemReason，针对知识图谱生物医学多跳推理中“可达但无效”的问题，即答案可达但证据路径无法支持所需关系组合。该方法在候选发现与证据选择间共享问题诱导的类型化有向关系 schema 分布，并用 ReSemAttn 进行关系条件化的注意力建模。在 BioHopR、PrimeKGQA 和 MedReason 上的实验显示答案排序与答案集质量均有提升。
阿里团队推出开源翻译模型 Lumen，参加 WMT 2026 通用机器翻译任务，专注满足术语、风格和结构化输出等细粒度指令要求。模型基于 Qwen3-14B，采用四阶段流程：继续预训练与监督微调、将 M²PO 扩展为在线偏好优化、从更大教师模型做 on-policy 蒸馏，以及结构感知推理与修复。在 23 个翻译方向上，按 1–5 分 LLM-judge 评分取得 4.60 的总体均分，表现与领先闭源系统相当。
arXiv 论文指出，基于提示词预测性的 AI 写作人类贡献度量可被轻易操纵：让模型复制提示词中的随机 ID（SPECIFICITY PADDING）即可使分数大幅波动，同一篇文章可被判定为 85% 或 15% 人类撰写。在 3.8B 至 753B 参数的多款 LLM 及新闻、科学摘要文本上均验证了这一现象，且仅凭 transcript 的方法在最坏情况下误差达一半贡献。
arXiv 论文 2610.19789 在 ALFWorld、ScienceWorld、Search-QA 和 WebShop 四个环境、三种模型规模上，将十种代表性自蒸馏方法与 GRPO 直接对比，共 132 次训练、累计 12,124.4 H800 GPU 小时，并对预训练骨干和全部十一个训练后方法在八个 rollout 种子上重复评测。结果显示没有方法能在所有设置下稳定超越 GRPO，最终性能好可能掩盖训练不稳定，额外训练成本也不必然带来更好表现。
推荐理由：论文用 132 次训练、1.2 万余 GPU 小时直接对比十种自蒸馏方法与 GRPO，指出最终分数可能掩盖训练不稳定。
UC San Diego 等机构在 arXiv 发布 JetSpec++，通过块内自修正、块间前瞻草拟和草拟与验证流水线重叠，将草拟的边际耗时降到接近零。相比自回归解码最高加速 7.45 倍，相比 DSpark 最高 1.54 倍，在 GB200 上单请求达每秒 1,361 token，七个基准平均接受长度 8.94，且保持目标模型输出分布。代码与模型已开放。
推荐理由：论文给出 JetSpec++ 的三个组件和与 DSpark、自回归解码的加速对比数据，读者可据此评估该推测解码方案的适用性。
arXiv 论文提出 AGORA 框架，独立变化团队构成与相互依赖结构（协作、从众、竞争）来研究自演化多智能体系统（MAS）的演化。在网页搜索、代码库理解与文档问答任务上发现：仅演化很少带来提升，合适的脚手架最多比单独演化的强智能体高出 25 分；其机制是把权威移交给最有能力的成员、其余成员退居辅助，且该成员在团队中成长后优于同一模型单独使用。
推荐理由：论文用 AGORA 框架把团队构成与依赖结构拆成独立变量，给出社会脚手架影响多智能体自演化的实验数据。
arXiv 论文 2610.19801 提出 Delta Tokenizer，一个只对会话请求增量部分做分词的 CPU 前端，并支持长请求的多核分段并行编码，输出与参考分词器完全一致。增量路径比 Hugging Face 参考分词器快约 40x，16 核下分段并行比串行快 8.2x、比 LoPT 快 1.6-2.1x；接入 SGLang 后 100K tokens 时中位 TTFT 降低 59%，Agent 会话 P99 TTFT 在负载下降低 9.5x、长请求占满前端时降低 23x。增量路径与快速编码器已在 toktier 仓库开源，分段并行路径、CPU 池调度器和 SGLang 适配器将在同一仓库发布。
推荐理由：论文给出了与 Hugging Face 参考实现和 LoPT 的具体加速对比，以及 SGLang 内的 TTFT 实测数据，可评估该方案的实际收益。
一项 arXiv 研究在多轮对话中评估四种基于提示词和激活的 steering 方法，涉及三个模型和两种价值权衡，用 linear probe 追踪对齐情况。结果显示当助手与用户朝相反价值方向拉扯时，符合助手基线偏好的一方往往占上风，早期看似成功的引导效果在几轮后常减弱或反转。研究认为 steering 应在完整对话和双向价值权衡中评估。
研究者提出 MAPLE 框架，用于刻画激活引导、解码调整、提示词等知识提取增强（KEE）技术如何影响大语言模型的参数化知识提取。该框架在表层、概率和超出采样层面区分答案恢复与破坏等效应，并在 OLMo2、Qwen2.5 和 Llama3 三个模型族上评估了六种 KEE 技术，揭示出各技术间不同的效应与权衡。
Liang-Hsun Huang 在 arXiv 发布 OpenTWBench，一套评测大语言模型台湾领域知识的开放套件，含 tw-exam-bench 与 tw-formosa-bench 两个基准。前者基于台湾考选部十五年国家考试开放数据，含 148 科目共 255,854 道四选一题，剔除 2,180 道依赖图片的题目后用 253,674 题计分；后者含 1,696 道关于台湾日常与当代生活的精选题，以冻结的七模型池校准至及格边缘（46.9-74.6%，中位约 54%），leave-one-out 实验显示筛选几乎不偏移模型排名。目前公开榜单已有 108 个模型，22 个超过该区间上限，最好成绩 91.6%。
推荐理由：论文用同一批题目量化了评测装置本身对分数的影响，答案抽取方式一项就把准确率从 20.8% 拉到 93.9%。
AWARE-RG 是一个半自动、人在回路中的框架，为信息物理系统（CPS）安全分析师提供按角色、按需知权限定下的弹性路径解释。该框架基于 MITRE ATT&CK for ICS 战术并结合 ICS Cyber Kill Chain 排序，用形式概念分析构建抽象结构；对有效攻击-故障查询可解释物理危害可达性并给出防御建议，对无效查询则定位路径失效的抽象层级并报告阻塞条件作为加固指引。
arXiv 论文提出 HACHIMI-II，将学生模拟重构为对学习者下一步动作的第三人称预测，从学习者历史构建学生模型并推断其当前状态。在三个题目应答数据集上，模拟与真实学生能力的 Wasserstein-1 距离比最强基线小 2.4–8.4 倍；在两个对话数据集上，按相同知识类型、位置和机制复现真实学生错误的频率高 1.8–5.1 倍，消融显示增益主要来自显式学习者状态。论文 18 页 4 图，链接 https://arxiv.org/abs/2610.19654v1。