新闻、仓库与研究，按时间排列。
Zhenhe Wu 在 arXiv 发布 PA1-OPD 方法，在语料前缀的蒸馏基础上加入学生模型采样一步后的教师反馈，扩展被监督的状态同时保留 next-token 预测与语料路径 KD。在两个持续预训练设置中，全覆盖方式在 C4、PG-19 和 Pile 的每个评测检查点上 held-out cross-entropy 均优于 KD；Stage2 中选取学生 surprisal 最高的 10% 根节点，使相对 next-token 训练的 Macro cross-entropy 增益比 KD 提高 48.85%。论文地址 https://arxiv.org/abs/2610.19601v1。
PN-Mix 是一种针对 RoPE 架构 decoder-only LLM 的混合精度 key cache 量化方法，通过 RoPE 通道对的 attention logit 扰动分析识别显著通道对，在 prefill 阶段一次性分配更高精度并在解码全程复用。2.26-bit 平均精度下，其在推理、代码生成和 AIME 基准上达到与 2.32–2.39-bit 先前方法相当或更好的准确率，且可平滑降至 1.5 bits。
arXiv 论文（arXiv:2610.19614）提出将 LLM Agent 轨迹视为动作与环境观测共享嵌入空间中的路径，同一任务的成功与失败 rollout 在该空间中可分离，简单判别器在三个 Agent 基准和三个策略模型上预测 held-out rollout 结果最高达 0.95 AUROC。作者进一步推出基于 transformer 的 Precog-RM，通过元学习使结果预测可在 few-shot 设定下泛化到未见任务和模型，并在轨迹终止前给出置信预测。部署为 GRPO 在 Tau2-Bench 上的早停控制器时，最多削减 47.3% 训练 FLOPs 且性能与基线 GRPO 相当。
推荐理由：论文给出跨三个基准和三个策略模型的 AUROC 数据，并量化了 GRPO 训练最多省 47.3% FLOPs 的收益。
论文提出 DAGFormer，一种由联合训练的拓扑预测器规划跨层连接的 Transformer 语言模型，在标准残差连接之外增加从浅层到深层的直接连接，并按输入 token 控制每条连接强度，与逐层单独设置连接的现有跨层路由架构不同，它一次性规划整个模型的路由。
DGS-WM（Decision-Guided Selective World Modeling）是一种面向语言智能体的策略-世界建模协同训练方法，通过决策引导的观测筛选和置信度自适应加权，仅对具有决策价值的观测单元施加世界建模监督，并与 RL 损失联合优化。在单跳/多跳问答和交互式网页任务等多项 benchmark 上，该方法在不同模型规模和 RL 算法下均取得一致提升，表现优于全观测世界建模方法。
研究在冻结的 Qwen3.5-4B 骨干上训练共享候选答案读取器，统一直接决策与按需可中断推理，通过 benefit gate 启动推理、自然状态触发显式读取、熵规则接受答案并取消生成。在 ProofWriter、LogiQA 2.0 和 ARC-Challenge 共 768 道题上，准确率从直接读取的 70.96% 升至 84.38%；相比 512-token 终端读取提升 7.29 个百分点、平均输出开销仅增 2.25%，相比 1,024-token 终端读取流水线时间下降 46.30%。
BANGLAPLAN 基准发布，包含 1,000 道基于孟加拉国日常生活的约束规划与决策题，覆盖 10 个任务族、4 种语域和 8 种结构化 JSON 答案类型。评测 11 个开源与闭源模型配置显示：GPT-6.1 Sol 达 98.7%，Qwen3.5-27B（thinking）达 80.3%，直答配置最高仅 30.9%，11 个中 7 个低于恒答 infeasible 基线；难题主要降低规划构建准确率，不可行性检测更稳健。
RouteWeaver 是一个统一 LLM 路由框架，将单轮、多轮与 agentic 路由模式整合进单一策略，联合学习模式选择与模式内模型执行。其配套的 COMET-GRPO 训练方法将优势信号解耦到两个决策层级，并引入渐进式探索。在数学、代码、知识、逻辑推理与事实召回评测中平均准确率达 61.4%，较最强基线相对提升 11.03%，并在全部五个领域超越所有对比基线。
arXiv 论文发现 Mamba 在 query-first 检索设置下仍大幅落后于 Transformer，说明瓶颈不止于固定大小循环状态容量。研究显示 Mamba 的 selection gates 足以影响输出，但与查询相关的表征信号随模型深度才逐渐出现，关键层的 gates 尚未对齐该信号，导致检索失败。
arXiv 论文提出 ReSemReason，针对知识图谱生物医学多跳推理中“可达但无效”的问题，即答案可达但证据路径无法支持所需关系组合。该方法在候选发现与证据选择间共享问题诱导的类型化有向关系 schema 分布，并用 ReSemAttn 进行关系条件化的注意力建模。在 BioHopR、PrimeKGQA 和 MedReason 上的实验显示答案排序与答案集质量均有提升。
UC San Diego 等机构在 arXiv 发布 JetSpec++，通过块内自修正、块间前瞻草拟和草拟与验证流水线重叠，将草拟的边际耗时降到接近零。相比自回归解码最高加速 7.45 倍，相比 DSpark 最高 1.54 倍，在 GB200 上单请求达每秒 1,361 token，七个基准平均接受长度 8.94，且保持目标模型输出分布。代码与模型已开放。
推荐理由：论文给出 JetSpec++ 的三个组件和与 DSpark、自回归解码的加速对比数据，读者可据此评估该推测解码方案的适用性。
arXiv 论文 2610.19801 提出 Delta Tokenizer，一个只对会话请求增量部分做分词的 CPU 前端，并支持长请求的多核分段并行编码，输出与参考分词器完全一致。增量路径比 Hugging Face 参考分词器快约 40x，16 核下分段并行比串行快 8.2x、比 LoPT 快 1.6-2.1x；接入 SGLang 后 100K tokens 时中位 TTFT 降低 59%，Agent 会话 P99 TTFT 在负载下降低 9.5x、长请求占满前端时降低 23x。增量路径与快速编码器已在 toktier 仓库开源，分段并行路径、CPU 池调度器和 SGLang 适配器将在同一仓库发布。
推荐理由：论文给出了与 Hugging Face 参考实现和 LoPT 的具体加速对比，以及 SGLang 内的 TTFT 实测数据，可评估该方案的实际收益。
FSPO（Function-Space Policy Optimization）是一种单策略强化学习框架，将稀疏历史 next-token 分布存为固定时序目标，无需维护常驻教师模型即可实现时序分离，并引入特权分歧校正、可靠性自适应锚定与质量覆盖感知时序记忆。在推理与工具使用 benchmark 上，FSPO 在 5 小时训练预算内平均准确率最高，较最强基线平均提升约 4 个百分点，在 Olmo3-7B-Instruct 上峰值显存从约 70 GB 降至 56 GB。
arXiv 论文提出 Confidence-Guided Credit Correction（C³），一种可插拔的局部信用修正方法，解决仅用结果奖励的多轮智能体强化学习中错误行为仍获正优势的问题。C³ 在优势估计后选择性修正正信用，修正强度由行为策略的置信度自适应控制，不改任务奖励与原信用估计。在多个多轮 benchmark 上，C³ 在基于 critic 与无 critic 的 RL 方法下均提升性能。
论文提出 RuleTrek，一个面向复杂场景的多领域智能体规则推理基准，通过规则图谱构建并增量组合子场景，评估规则识别（RI）、规则推导（RD）与端到端规则推理（E2E）三项能力。对 11 个前沿 LLM 的实验显示，RI 与 RD 最高分仅 62.47% 和 60.43%，E2E 得分在 26.97% 至 55.29% 之间，代码与数据集已公开。
arXiv 预印本研究 LLM 的语言表达上限：提出提示词优化算法，在 benchmark 上比现有算法最高提升 14%，并设计发送方标注、接收方恢复提示词的传输度量。对 8 个领域 1.2k 个概念的测量发现三类概念：可完全表达、未来更强模型可能表达、以及与身份和群体意识绑定而难以表达的概念；人类在 LLM 难以处理的 76% 概念上仍有中到高度一致性，表明表达上限因执行者而异。
研究提出用显式 if--then 规则连接感知、信念与行动，并用 GRPO 训练 Qwen2.5 和 Llama3 模型，在四个 ToM 基准上超越了提示、监督微调和 think reasoning。≥3B 模型生成的规则还可迁移，提升 GPT-4o-mini 的下游表现。
geezyforeezy 发布 rohit267/Qwen3.8-9B-heretic-uncensored 的 4-bit MLX + MTP（MTPLX）本地版本，面向 Apple Silicon。在 M5 24GB MacBook 上实测解码速度从 21.25 提升到 40.05 tok/s（+88%），投机解码为精确校验故无损；trunk 为有损 4-bit（group size 64，约 5.0 GB），附带原生 MTP sidecar 与 rank-64 C4 LoRA 适配器（加载时合并），depth 2 下草稿接受率约 0.71。
一项 arXiv cs.CL 研究剖析 LLM 在动态诊断中失败的原因，追踪其从证据识别、利用到下游诊断更新的全过程，除诊断准确率外还考察证据覆盖率、轨迹动态、概率与信息熵。研究发现 LLM 虽能诊断完整的静态病例，但难以主动获取对诊断关键的证据，核心挑战从是否具备临床知识转向能否在动态诊断中识别并有效利用正确证据。
arXiv 论文提出 DDRG（Disagreement-Driven Verification Guided by Reasoning Graphs），利用图对齐暴露采样推理轨迹中的 claim 级分歧，并将局部冲突交给无答案验证器触发针对性修复。在五个 benchmark 上，原生 zero-shot DDRG 使 Qwen2.5-7B 和 Llama3.1-8B 的 macro-average 准确率较直接回答分别提升 8.65 和 15.83 个百分点，并超过 CoT、GoT/GoV 适配版及 Self-Consistency。
一篇 arXiv 论文（arXiv:2610.18613）重新检验了自蒸馏方法 SDPO 与 OPSD 在代码、科学、工具使用和数学推理任务上的表现，发现其相对强化学习（RL）的收益不能稳定泛化到未见问题。作者认为收益主要来自过拟合或迁移既有推理行为，而非有效利用特权信息；自蒸馏梯度与直接优化期望回报的策略梯度对齐较弱。实验覆盖 Qwen3（1.7B-14B）和 OLMo-3-7B，结论是有效利用特权信息改进推理仍是开放问题，代码已开源。
推荐理由：论文在代码、数学等多任务上复测 SDPO 和 OPSD，指出其收益主要来自过拟合而非特权信息，并给出复现代码。
BASIS（Bayesian Axis Selection via Interactive Signals）是一种免训练的贝叶斯方法，利用测试时弱反馈推断当前决策由任务特定准则库中的哪个准则主导，并按期望信息增益选择探针。该方法将六探针概念恢复 Success@1 从 56.0% 提升至 68.1%，推理准确率从 72.3% 提至 73.1%，精修胜率从 61.4% 提至 63.8%，并超过算力匹配的 best-of-N 选择。论文已被 NeurIPS 2026 接收。
Rong Li 等在 arXiv 发布 GeoReader 框架，训练轻量 Geometric Reader 生成连续几何 token 注入 VLM，几何描述仅作训练目标，推理时无需生成几何思维链。用 RGB 图像预测几何后，Qwen3-VL-4B 在 MindCube-Tiny 达 94.3，Qwen3.5-9B 配多源 QA 混合数据在六个空间基准平均得 72.5；论文还发现已有特征对齐模型清零对齐 latents 后准确率不变。
该 arXiv 论文提出一种免训练方法，通过一阶泰勒近似的梯度估计器将过程奖励归因到单个 token，仅需一次前向与反向传播。得到的 P2T token 级奖励可使标准 RL 算法实现精确 credit assignment，无需额外训练奖励模型，在 Qwen2.5-VL-7B-Instruct 的 MathVista 上比 outcome reward 高 4.9%，在 Qwen2.5-Math-7B 的 AIME24 上高 11.5%。
论文提出一种率转移方法，将关联随机微分方程（SDE）的有限时间 Lyapunov 估计转化为随机梯度算法的有限时间收敛界。在一般的矩条件与光滑性假设下，随机梯度法的收敛分析可归结为验证 SDE 的 Lyapunov 生成元不等式这一微积分论证。该方法既复现了经典随机梯度方法的已有收敛速率，也为新优化算法的收敛率证明提供了途径。
论文提出 PreciseCoder，在单元测试奖励基础上加入语义验证的局部编辑信号，让代码模型调试时更少改动且不幻觉出错误。在 4B、9B、27B 模型上，平均编辑行数从 7-15 降至 3，通过率持平；仅用单行 bug 训练即可泛化到仓库级修复。将 9B 模型的推理轨迹提供给 GPT-5.6 Sol 和 Qwen3.8-Max，可使编辑精度提升 4.6-12.4 分。
arXiv 论文提出 ARBITER，一个 35B MoE 智能体验证器，仅凭题面和源码判定候选程序正确性并生成反例作为可检验证据，基于 USACO 2026 构建了 USACO-JUDGE 评测集并用强化学习训练。训练将错误程序上的反例成功率从 40.61% 提升到 62.67%，USACO-JUDGE 二元判定准确率从 71.41% 提升到 87.41%，在代码选择与改进任务上均优于基线；IOI 2026 案例中 ARBITER 引导的改进使 GPT-OSS-120B 在官方提交限制下的期望分数超过金牌线。论文链接 https://arxiv.org/abs/2610.18760v1。
推荐理由：论文给出了反例生成与判定准确率在训练前后的具体数字，可据此评估这类可验证反馈验证器的实际提升幅度。
论文提出 Jeva，一种决策原生架构，针对 System one 模型直接低延迟决策的四个结构要求：null-aware、置换不变、候选集可扩展与可缓存。Jeva 用共享编码器独立表示请求与各选项，以不可变选项记忆精炼请求状态，统一 Choice、Noul 和 Score 输出。评测中实现近乎完美的 null 检测、任意排列下零决策翻转，可扩展至数千候选并通过跨请求复用大幅降低延迟。
一项 arXiv 论文提出 Scenario-Actor 温度选择框架，从 Transformer 隐状态中提取场景结构，用场景嵌入这一几何表示推断交际情境并据此确定解码温度。在 Llama-3.1-8B-Instruct 上，该框架在交互式社交场景中取得较强的目标完成表现，在开放式指令遵循上有显著提升，多轮对话表现与多个基线相当。
论文提出混合推理 Agent 框架 HybridAgents，用 HybridLink 在统一生成过程中于潜在推理与文本交互间动态切换，并以连续工作记忆跨多轮保存混合上下文。配套 HybridSFT 与 HybridRL 后训练算法，在 3 个模型规模、11 个基准上较前沿 LLM Agent 与 Agent 框架平均提升 10.4%，同时 token 减少 35.5%-54.7%、推理提速 1.8x-2.6x、成本节省 2.7x-3.7x，代码与数据已开源。
推荐理由：论文同时给出统一架构、后训练算法和在 11 个基准上的量化对比，读者可以直接查看 10.4% 提升与成本节省数据的来源。
论文提出 DoubtLess，一种免训练的对比解码方法，用小推理模型分别以简洁和冗长两种提示读取大模型的思维链，将两者 logit 之差按强度缩放后加到大模型每步的 logits 上，引导其生成更短的 CoT。在竞赛数学、研究生级科学和竞赛编程等七个基准上，DoubtLess 将 Qwen3-32B 的 CoT 缩短 31% 而准确率不变，优于五个推理时基线；在自调试编码智能体中每轮思考 token 减少 20%，任务性能不变，还能泛化到另外两个模型家族，并与基于训练的压缩方法叠加使用。行为分析显示其减少重复检查，token 节省大多来自正确答案首次出现在 CoT 之后。代码已开源。
推荐理由：方法无需训练即可压缩推理模型的思维链，并给出七个基准上的量化结果，可与其他推理时压缩手段比较迁移。
论文提出 Tev-Gym 数据集与 PPRS 奖励整形方法，用 1170 个带渐进可验证奖励的任务环境训练出 Tev-27B。该方法把任务进度转成逐步密集奖励，Tev-27B 在 ALE-CM 上 Pass@5 匹敌 GPT-6 Astra 与 Claude Opus 5，并在 Terminal-Bench 3.0/4.0 上超过 GLM 5.2 和 Gemini 3.7 Flash。
推荐理由：论文给出可验证的渐进奖励构造方法，用逐级奖励把长程任务变得可训练，还开源了 1170 个任务环境。
Jing Liu 在 arXiv 论文（2610.18298）提出一个模型无关的五阶段闭环 Agent 协议，用候选×证据矩阵证伪机制约束大语言模型的假设驱动决策，结论是输出纪律而非模型能力构成瓶颈。在中医辨证基准 TCMEval-SDT 的 200 例上，两年模型缩放仅使 zero-shot 分数变动 -0.03 到 +0.08；该协议对输出纪律差的模型有提升（DeepSeek-V4-Flash +0.267/+0.271，全部来自终止性修复），将 Kimi K3 的运行间标准差从 0.218 降到 0.007，但对已有纪律的 Qwen3-4B/32B 有 -0.087 到 -0.120 的代价。
研究者发布 AnnalsChallenge 数据集：50 条用 Lean 4 和 Mathlib 手写形式化的定理陈述，每条均为 2020 年以来发表于《Annals of Mathematics》论文的主要结果。所有形式化均经人工审核并由 AI 审计，不含形式化证明，可供评估数学自动形式化进展使用。该工作已被 NeurIPS 2026 的 AI-MATH workshop 接收。
LR-Guard（Latent Reasoning Guardrail）是一种高效可解释的安全护栏方法，将冻结教师模型对安全与不安全提示的分析蒸馏为紧凑潜在表示，并支持按需重建推理轨迹，无需每次决策生成中间文本。实验显示其在多数域内与域外设置下的安全分类和解释提取优于显式推理教师模型，batch size 1 时推理加速 19.4x，重建轨迹与教师显式推理语义高度相似。
一篇 arXiv 论文研究 AI 研究自动化引发的随机智能爆炸：随机性不改变确定性爆炸阈值，但把爆炸日期变为显式分布——等尺寸改进下爆炸时间是独立指数变量的几何加权和，Lomax 分布改进尺寸下爆炸时间精确服从 Gamma 分布。论文还给出区分恒定与几何增长到达率的检验，最小样本量渐近为 (12z_α²)^{1/3}ℓ^{-2/3}，并证明即使爆炸必然发生，剩余时间的条件平均等待时间仍为无穷。
TRACESTEER 是一种针对扩散大语言模型（dLLM）幻觉的激活转向框架，利用先前去噪预测作为反馈，通过 DF-Steering 构建逐步转向向量、TS-Gate 依据预测不确定性和去噪时间步调节强度。骨干冻结下，在两个 dLLM 上提升了 TruthfulQA 事实可靠性，并在五个下游 benchmark 上展现泛化能力。
论文提出 Runoff 方法：先单独为每个选项打分筛出少量候选，再让候选在排列中轮流占据各位置进行比较，无需训练、最少两次前向传播即可消除选项顺序对答案的影响。在两个开放模型和五个数据集上，打乱顺序后 Runoff 不改变任何答案，而循环平均法仍改变 9.3%；20 个选项时准确率相当且速度快 3 到 4 倍。包在八个 System One 模型外层后，可消除五个 benchmark 上的顺序依赖，循环平均法最多仍改变 15.4%。
arXiv 论文提出 slate presentation 优化任务：针对患者病例和固定排序的医生列表，生成基于医生档案的病例定制摘要，并用 persona 条件化的 LLM 模拟患者选择进行离线优化。实验比较提示词级 GEPA 与参数级 GRPO 优化，GRPO 在满足全部约束上大幅领先且经未见过的 LLM 评测验证，用 GEPA 优化后的提示词初始化 GRPO 可加速训练并获得最高模拟转化率。
一项 arXiv 研究将多语言语言模型的颜色表示分解为两个几何维度：与感知颜色空间（CIE-LAB）的对齐程度和跨语言对称性。研究发现感知基础较弱——对齐在中间层达到峰值后在输出层坍缩，且跨语言对称性随深度下降。模型在 P1 对齐峰值层的颜色分类准确率达 96.7%，P1 对齐与下游能力显著相关（r=0.70），表明纯文本模型学到的是通用的颜色-语言几何而非颜色-感知几何。