哪些差异真正重要?决策模型中规则迁移、联合可靠性与信息使用的受控测试
一项 arXiv 研究(arXiv:2610.30045)通过可执行的算术规则与受控输入变化,将决策模型的表现拆分为规则迁移、联合可靠性和定向信息使用三个可分别测量的维度。实验显示适应增益随最近源答案一致度增加,完全冲突的四元组池化增益很小且在不同源划分下增益符号不同;等价改写在任务层面产生相反效果。测试的决策服务对等价措辞的回答变化大于相同文本重复,且通常遵循被改动表格数值或映射所隐含的答案目标。
新闻、仓库与研究,按时间排列。
一项 arXiv 研究(arXiv:2610.30045)通过可执行的算术规则与受控输入变化,将决策模型的表现拆分为规则迁移、联合可靠性和定向信息使用三个可分别测量的维度。实验显示适应增益随最近源答案一致度增加,完全冲突的四元组池化增益很小且在不同源划分下增益符号不同;等价改写在任务层面产生相反效果。测试的决策服务对等价措辞的回答变化大于相同文本重复,且通常遵循被改动表格数值或映射所隐含的答案目标。
一项 arXiv 预印本研究提出将图表作为数据智能体推理循环中的内部认知动作。团队构建了包含 200 个受控任务的 \probe{} 测试集,发现智能体能从自生成图表获得与数值输出同等的得分,但并不会稳定地主动使用图表。其提出的 \method{} 方法从轨迹 rollout 中蒸馏两类经验并经验证门筛选,在三个 held-out 基准、四个 LLM 骨干上提升分析准确率与视觉证据质量,且不改动模型参数。
Quant-Arena 是一个基于真实 A 股数据的端到端量化研究基准与公开排行榜。模型构建特征和股票打分代码,仅在 2022-2023 数据上获得反馈,并将策略冻结后在密封的 2024 年数据上评估,计分以实际超额收益为主,辅以信号质量与特征多样性,评估器还纳入交易约束、成本及基于模拟订单簿估算的市场冲击。在九个前沿模型中 GPT-6 Astra 得分最高,但没有模型在 2024 年跑赢等权市场;该基准开放任何模型或 agent 框架提交。
研究者提出动态智能体基准 Environment Duels,评估九个前沿 LLM 作为环境创建者与解题者的双重能力,发现解题与环境创作是两种不同的技能:最强解题者并非最强创作者,而较小的模型能写出最难的环境和最有用的提示词。在 Qwen3.8-27B 的强化学习研究中,模型在他人环境上的提示词提升能预测这些环境训练对 held-out 推理与智能体基准的改进。代码已开源。
研究者提出层级掩码扩散语言模型(HMDLM),为每个 token 位置引入层级标注,通过两阶段生成让高优先级位置优先揭示,同时保持完全并行解码,无需额外标注。在 LM1B 上困惑度比 ADLM 降低超过 1.5 点,WikiHow 上最高降低 4.4 点(对 ADLM)、7 点(对 MDLM),LLM judge 偏好其生成结果超过基线 2 倍;Sudoku 多步推理任务上准确率最高提升 8.6% 绝对点。
研究者提出 Flat-RLVR,在 LLM 后训练中通过锐度感知最小化寻找平坦奖励区域,并结合 GRPO 变体进行可验证奖励强化学习(RLVR)。该方法在理论上将平坦奖励最优与缓解分布锐化(distribution sharpening)联系起来,经验上提升了样本多样性,同时保持单次尝试准确率,在采样效率与推理容量之间取得更好权衡。
一项 arXiv 研究提出针对神经网络结构化潜在空间(LS)的检索算法,借助 O(1) 复杂度的候选子集搜索加速 top K 检索。作者用 Latent Space Configuration(LSC)方法微调 ArcFace 预训练的 IResNet50 模型,相比基线穷举搜索,GPU 上最高提速 3 倍、CPU 上提速 40%;且 LS 降维可进一步加速搜索,甚至改善 rank-N 指标。
这篇 arXiv 论文提出一种在线证书方法,利用求解器已有的 regret 累加器和终局分布累加器来认证一般和扩展式博弈中加权平均策略的 NashGap,每个检查点成本与终局历史数线性相关,且在交替更新和三人及以上博弈中保持可靠。在 biased Leduc 基准上,16 个免训练 regret-matching 求解器的组合协议在阈值 10⁻⁵ 下解决 64 个实例中的 89%,预注册保留集和第三组各 64 个实例上分别解决 92% 和 89%;零最佳响应证书对样本内、新样本各 57 个全部认证成功。代码已开源。
研究者提出多模态海洋基础模型 YingLan,融合物理属性条件动态编码、Spatiotemporal Increment Coupling(STIC)与海洋状态演化感知预训练,统一处理卫星影像、网格化海洋场和浮标观测等异构数据。模型基于 MindSpore 实现,在华为 Ascend 910B NPU 上训练;在深圳近海七天海表盐度预报任务中,平均 RMSE 为 0.687508 PSU,较 LangYa、XiHe、GloNet2 分别降低相对误差 0.58%、5.31% 和 12.42%。
研究者提出概率潜在推理模型 PLRM,一种可并行的变分框架,将推理移入紧凑连续潜在空间以表达多条有效推理路径。PLRM 采用 JEPA 式目标,后验从观测轨迹并行推断潜在分布,并引入离散策略变量与混合先验以保留多轨迹的高斯混合结构。实验显示其在单轨迹数据集上与确定性潜在推理模型性能相当,在多轨迹数据集上持续超越随机基线。
新求解器 Sanko 在位置超劫(PSK)规则下实现可靠证明迁移,恢复了置换表、死活识别与安全剪枝三大能力。它用六个线程 16 分钟证明 5x5 围棋(此前方法需 5.25 小时),并首次给出二十三个局面的 PSK 价值,其中十一个此前在任何规则下均未解决。超劫改变博弈价值:4x7 在基本劫规则下是全盘获胜,在 PSK 下仅值 12 点。
一项 arXiv 研究提出基于正向-反向偏微分方程的生成建模框架 SBNL(Schrödinger Bridge NonLinear),将平均场博弈与非线性 Schrödinger 系统的联系重新诠释为生成建模问题。该框架通过基于分支扩散的模拟算法求解,具备高并行性、可扩展到高维,并在 MNIST 和 FFHQ 人脸图像合成任务上完成验证,同时统一了 score-based 生成建模与扩散模型。
一篇 arXiv 论文提出 Diverse Parallel Thinking(DPT),一种面向大语言模型并行思考的强化学习方法,通过惩罚并行思考路径的前缀相似度来奖励模型发展不同的推理策略,缓解 RL 并行思考中推理路径模式坍缩导致的同质化问题。在多个推理 benchmark 上的实验显示,DPT 超越以往并行思考方法,达到 SOTA,代码已开源。
一项研究在 MIMIC-IV 数据集上以相同的 tokenization、上下文长度和模型容量对比块掩码扩散(BD)与自回归模型在纵向 EHR 建模中的表现。B=8 配置实现约 1.43× 更快的推理速度,其表示的线性探针在临床预测任务上与 AR 性能接近。结果表明块扩散是计算上更具吸引力的可行方案,但生成质量仍低于 AR。
一项 arXiv 研究提出 AWMP(Afterstate World-Model Planning),用预训练 LLM 作为世界模型的外生组件,预测动态调度中的不确定未来任务到达。方法结合 afterstate 分解、信念条件调度策略、短场景 rollout、惊讶触发的 LLM 查询刷新与在线残差自校准。在动态 job-shop 和柔性 job-shop 基准上,相对八种经典优先级调度规则中的最优者,加权延期分别降低 6-21% 和 22-46%。
研究者提出 OSynth,一个模拟组织的大规模合成数据集,包含 570 小时会议音频、相关文档及潜在真实状态。人类评审基于 150-300 词片段,区分 OSynth 会议与真实会议转录的准确率仅 56%。测试显示,引入日历、以往会议等额外上下文可使多个 LLM 在实体敏感维度显著提升。
B-CARE(Blind Classwise Assessment of Relative Evidence for Stance Error Ranking)是一种预测盲的错误排序框架,用固定 LLM 验证器对各候选立场标签赋证据分,对比最强替代类与预测类的证据来构建风险分。该框架在 4 个立场基准和 3 个异构基座 LLM 上的 12 个数据集-模型组合、5,206 条测试实例中评测,取得平均 AUROC 0.735、平均 AUPRC 0.524,并在风险最高的 20% 预测中捕获 41.06% 的错误;其证据信号可跨模型复用,与置信度基线互补。
arXiv 论文(arXiv:2610.29352)通过五个模型规模、百余种 token 预算配置,建立了长上下文性能与模型规模、短上下文及 LCCP token 预算之间的经验加性幂律,可外推到未训练的模型规模。论文提出 Constant-Last4 观测协议,稳定预测了 1.22B 参数模型在约 100B LCCP token 上的性能轨迹;128K 上下文扩展和监督微调后增益仍保持,在评测范围内未见饱和,支持继续扩展 LCCP 而非提前停止。
推荐理由:论文给出长上下文持续预训练收益随 token 预算扩展的经验缩放律,并用 1.22B 模型轨迹验证了可预测性与增益持续性。
论文提出 OnQ,一种结合 on-policy 蒸馏与逐候选 Dynamic KL 的低比特恢复管线,用量化学生模型自身生成的前缀接受全精度教师监督。在 Qwen3-1.7B、4B 和 8B 的 2 与 3-bit 精度上,OnQ 取得九个基准的最高平均分;2-bit 下在每个模型规模的每个基准都超过所有基线,Qwen3-8B 平均比最强基线提升 10.26 分,且响应更短、截断和重复错误更少。论文链接:https://arxiv.org/abs/2610.29378v1
推荐理由:论文指出现有量化感知训练的固定响应监督缺陷,并用自身前缀上的蒸馏与动态 KL 给出可复现的低比特恢复方案。
arXiv 论文 ECHO 提出偏好优化的失败源于共同模态偏移,即隐状态中跨 token 位置、提示词和 chosen/rejected 响应共享的方向性偏移,相对排序损失几乎察觉不到其累积;该偏移投影到输出层形成词表井,使单一 token 概率主导解码并引发生成坍缩。在所研究的 per-token 排序损失下,同样的坍缩出现在 17 个 base 模型谱系中的 14 个,且注入该偏移可复现坍缩、屏蔽该成分可预防;教科书式 DPO 偏移较弱,而全参数 SimPO 在 Llama-2 和 Llama-3.1 上均驱动其坍缩。17 次 UltraFeedback 运行显示排名指标越好,两个公开奖励模型反而越少偏好其样本,揭示了标准排序指标的盲区。
推荐理由:论文用注入和消融实验把偏好优化中的共同模态偏移与词表坍缩因果联系起来,并给出可在坍缩前预警的表征层信号。
一篇 arXiv 论文提出 Harness Scaling,将智能体 RL 的训练从单一固定 harness 扩展到多样化的执行配置。方法上构建因子化的 harness 空间,选取覆盖均衡的小型训练子集并组织跨 harness 训练。在多个 benchmark、模型规模和 RL 算法上,该方法持续提升对未见 white-box 配置的泛化,且能迁移到未见的外部 black-box harness,优于单一复杂 black-box harness 训练的模型。
研究者提出 OmniSimulator 训练框架,用五维结构化 schema 和教师模型生成的高质量推理轨迹,提升小语言模型在短视频平台上模拟真实用户行为的能力。该框架基于 200 名真实用户三个月的历史交互轨迹构建了 9,881 条训练实例,使 Qwen3-8B 平均成绩提升 34.33%,性能可与 Claude-Sonnet-4.5 竞争,并支持小规模自托管部署。论文已被 NeurIPS 2026 接收。
arXiv 论文提出用 MoE 模型的专家路由统计作为过程置信度信号,性能可与传统输出 logit 置信度竞争。基于总路由质量、头路由质量与步内路由变化构建路由置信度,RoCo-Rethink 识别置信度最低的推理步骤并选择性地重新生成后续轨迹,RoCo-PRM 则用强 MoE 自动标注推理轨迹并蒸馏为独立 PRM。二者在多种 MoE 架构和多样推理任务上均优于强基线,RoCo-PRM 还可跨架构、跨任务迁移。
一项 arXiv 研究检验了“时间算术 vs 时间语义”这一时间推理二分法的有效性。微调各基准子集只带来数据集专属提升(+6.8 到 +23.1 个百分点),同模式跨数据集迁移仅为 -3.2 到 +1.1 个百分点;基于认知需求的评估显示,驱动性能的主要是知识而非量化和逻辑推理。结论是现有基准并未真正实现算术-语义区分,主要奖励模型记忆时间的通常运作方式。
一项 arXiv 研究将上下文感知解码(CAD)应用于 CoT 推理,提出 Rationale Contrastive Decoding(RCD),通过对比有、无推理过程时基于 query 的 token 分布,放大因 rationale 而提升似然的 token,并给出 KL 正则化奖励最大化的理论解释。实验覆盖五个推理 benchmark,RCD 准确率超过标准 CoT;干预分析表明最终答案对 rationale 内容的行为依赖增强,且该方法无需训练。
一项研究比较 4 个通用 LLM 与距离加权最近邻投票(Distance-KNN),在 19 个表格分类数据集上使用相同检索邻居。结果显示,在任何候选池规模下 Distance-KNN 平均准确率最高;LLM 的增益集中在检索邻居标签一致性低的场景,且在特征距离最近和中等邻域内部分 LLM 能胜出,但在最远距离组全部平均落后。
RCSD 是一种投机解码训练框架,将 draft 模型优化与最大化接受长度的系统级目标对齐,利用投机推理中自然产生的接受与拒绝序列构建隐式偏好对,并用 masked loss 避免惩罚与 target 对齐的 token。在多个 benchmark 上,RCSD 相比 HASS 将平均接受长度提升 35%,端到端推理速度达 HASS 的 1.35x,且不损失生成质量。
PACE 是一种面向线性注意力语言模型的后处理四比特状态量化器,只需每生成几个 token 舍入一次状态,并按列共享量化比例、将误差保留最久的头保持在 8 比特。在 4B 到 35B 参数的四个混合模型上,混合 4/8 比特头的 PACE 在约为 8 比特 DAMP 三分之二内存的情况下性能相当,全程 4 比特版本在同等内存下得分高于 Q-Mamba,且保持解码加速。
Recursive 在 Hugging Face 开放其面向编码智能体的 MoE 模型 Flint 权重,总参数 39.8B、每 token 激活约 2.5B,Apache 2.0 许可。官方评测中 Terminal-Bench 2.1 得分 54.9%、SWE-bench Pro v2 为 89.7%、SWE-bench Verified 为 74.2%;仓库含 BF16 checkpoint 和 SGLang 部署套件,支持 262,144 token 上下文与 OpenAI 兼容工具调用,单个 B300 或 H200 GPU 即可运行一个副本。
推荐理由:官方模型卡完整给出架构规格、评测设置和单卡部署方法,读者可以据此判断这个编码智能体模型的实际部署成本。
NVIDIA 发布预训练关系型基础模型 Kumo Relational,直接在企业数据库上做预测,无需任务训练、特征工程或表拼接,单次前向传播即可预测流失、需求、欺诈等结果,权重已开放下载。模型通过 in-context learning 读取最多 10,000 个历史样本,在 15 个数据库的 41 个任务上超过监督式关系深度学习和梯度提升树流水线,在 SAP SALT 企业基准上 MRR 领先 AutoGluon 集成 8%,微调后领先 16%;预训练使用基于 PluRel 方法的合成关系数据。模型可在 RelArena-α 榜单上以约 17 秒/千样本的速度达到 Elo 1,842,比最高分条目快约 430 倍。
推荐理由:原文给出了跨 41 个任务的基准对比和架构细节,可以了解结构化数据基础模型这条路线的实际水平与用法。
Dharma AI 在 Hugging Face 博客预览 VocabX 论文结果:按每个 token 的成本而非频率重建词表,在不改基座模型、数据和训练配方的前提下,将基于 Qwen3-4B 的葡萄牙语作文自动批改器实测推理成本降低 77.0%。响应平均从 350 降到 101 个 token,bench 分数从 0.703 升到 0.810,LM head 从约 152,000 行缩到约 65,000 行;在 5 个公开领域和 Qwen3、Llama-3.1、Gemma-3 三个模型族的 15 种组合中,压缩率和估算推理成本均领先 FVT、MWT 和 in-place BPE 三个参照方法。
推荐理由:作者用同一基座、同一训练配方做对照实验,把成本按读写分别计价,方法思路可迁移到其他单一领域的专用模型。
Hugging Face 发布 TorchNeuron 系列教程第一部分,讲解如何在 AWS Trainium 上用 torch.profiler 与 Neuron 系统级 profiling 系统分析推理性能。文章介绍通过 NeuronConfig、NeuronProfiler 配置捕获 DEVICE 与 RUNTIME 数据流,并用浏览器工具 Neuron Explorer 查看系统 trace 与设备时间线。教程以 RMSNorm 的三种实现(朴素 PyTorch 算子、torch.rms_norm()、torch.compile)为例对比,脚本可在 torch-neuronx examples 目录获取。
Hugging Face 发布 TorchNeuron 系列教程第一部分,讲解如何在 AWS Trainium 上用 torch.profiler 与 Neuron 系统级 profiling 系统分析推理性能。文章介绍通过 NeuronConfig、NeuronProfiler 配置捕获 DEVICE 与 RUNTIME 数据流,并用浏览器工具 Neuron Explorer 查看系统 trace 与设备时间线。教程以 RMSNorm 的三种实现(朴素 PyTorch 算子、torch.rms_norm()、torch.compile)为例对比,脚本可在 torch-neuronx examples 目录获取。
Sahil Joshi 等在 arXiv 发布论文,提出 Stratified Sparse Attention(SSA),将确定性检索与分数引导采样结合以缩小稀疏注意力与稠密注意力在极端稀疏下的差距。在 RULER、LongBench、LOFT、AIME 及 3B 至 27B 五个模型上,SSA 均优于基线;RULER-HARD 用 Ministral-3-8B 在 50 倍注意力稀疏下,32K 和 128K 准确率从 81.8% 提至 84.2%、从 63.8% 提至 69.3%,分别恢复稠密注意力性能的 94% 和 85%。优化 CUDA 内核后,1M 上下文解码速度相对 FlashInfer 最高加速 2.96 倍,代码已开源。
推荐理由:论文给出 SSA 在 RULER 等基准和 50 倍稀疏度下的精度与解码加速数据,方法可复用,代码已开源。
一项研究提出基于 SSM 的脉冲神经网络(SNN)闭环预测方法,解决 SNN 自回归预测时依赖不可得数值的问题,包括模型级和层级两种策略。在 ETT-small 基准上,两种方法与 S4 的 zero-masking 基线相当或更好,多数情况下可与 SpaceTime 等最先进方法媲美。结果显示连续激活与低比特量化激活之间的权衡,证明 Deep SSM 架构可作为有竞争力的预测框架。
研究者提出 OptScientist,一个从数据中自动发现符号化优化定律的框架,由符号优化问题推断模型和结合文献先验的 LLM 智能体系统组成。在含 99 个物理优化问题的新基准 OptFeynman 上,它对超过 80% 的问题恢复出真实定律,显著优于机器学习、符号方法和 LLM 基线。在人类风险决策与央行货币政策数据上,其发现的定律在留出预测性能上与主流基线相当,且参数更少、token 消耗显著更低。
论文提出混合框架 CoRAL,采用非对称 Planner-Executor(APE)架构:扩散语言模型 Planner 并行生成 K 条推理轨迹,大型自回归模型 Executor 择优并合成最终答案。训练中引入 Reward-Guided Denoising for CoT(RDC),将结果奖励融入扩散过程以引导目标导向推理。视觉语言基准实验显示 CoRAL 显著优于已有扩散方法,并对强 ARM 达到有竞争力的性能,兼顾效率与质量。
研究者提出 Adaptive Multi-Token Prediction(AMTP),将多 token 预测的视野选择建模为在线控制问题,通过验证反馈动态选择最优推测长度,无需重训练且不改动验证器。在基于 Llama-3.1-8B-Instruct 与 Medusa heads、Meta MTP 模型、Qwen3-4B-Inst-2507-MTP 的五组组合上,经 AIME 2025 和 GSM8K 评测,AMTP 解码最高加速 4.1x,在 10 个设置中的 8 个持平或超越固定窗口,吞吐最高提升 10%。
一项 arXiv 研究提出 On-Policy Transition Distillation(OPTD),在传统在线蒸馏只匹配最终层分布的基础上,进一步对齐教师与学生模型在学生生成 rollout 上的层间对数概率增量。诊断实验显示,正确回答在中间层迁移上具有更低的平均 KL 散度。在三个 backbone、八个覆盖数学、代码和指令遵循的 benchmark 上,OPTD 在双域和三域蒸馏中均取得最佳或并列最佳成绩,三域设定下可恢复约 90% 的师生能力差距,而 OPD 约为 75%。
研究者提出 TEPCA 框架,从证据和参数两个层面改进 LLM 在时序知识图谱(TKG)上的推理:证据层采用时间约束的 DRGP 路径剪枝和基于互信息(MI)的剪枝,参数层引入时间戳条件化的 DG-LoRA 低秩适配机制。在两个 TKG benchmark 上达到 SOTA,DG-LoRA 在八个常识问答数据集上进一步验证了输入自适应能力、跨 LLM 骨干的可扩展性与可解释性。