新闻、仓库与研究，按时间排列。
一项 arXiv 研究用四个公开真实设备数据集中的 128 个故障日，评估决策模型 Jev、开源语言模型与监督模型对 HVAC 故障的诊断能力，按诊断所需推理需求分级并给出原始数据、物理特征或 Brick 拓扑三类输入。结果显示，基于物理特征时 Jev 和更大的开源模型能诊断单一特征可判定的故障，在季节、控制配置或建筑变化下保持准确率与校准，而监督模型 macro-F1 下降 0.33 但在同建筑内领先或持平。模型概率仍需修正，故障检测较弱，研究支持由代码计算物理量、模型为运维人员排序候选故障的分工方式。
arXiv 论文（2610.10049，被 IEEE CogMI 2026 接收）用 30 个情境、6 种偏差和 0/1024/4096/8192 token 思考上限在 4 个模型家族做了剂量反应研究，共 12,350 次 API 调用。结果发现推理模型并不比匹配的非推理模型更少偏差，偏差幅度也不随实际消耗的推理 token 增加而可靠下降；锚定是唯一沿人类方向的偏差（d = 1.89），其余偏差多反向；一条让模型先复述锚点的简单指令降低了全部锚定题目的偏差。作者据此主张不应把测试时推理当作理性保证，应对部署模型逐项审计偏差。
推荐理由：研究用 12,350 次 API 调用检验推理预算与决策偏差的关系，结论可迁移到对部署模型的偏差审计思路上。
研究者提出 EncBank，把预训练 LLM 的低层视为可复用的文档编码器并紧凑存储其输出，供适配后的上层读取器使用，且各存储精度共享自蒸馏 suffix adapter、无需针对量化重训。在三个不同规模的 Qwen 骨干上的五个 benchmark 套件中，4-bit 存储与原生精度 EncBank 各项 aggregate 差距在一个分数点内；在固定 Qwen3-8B 负载下仅保留 28.1% 的原生精度 GPU 常驻存储，并实现 1.40x prefill 加速（RULER 准确率损失 3.12 分），原生精度 Qwen3.8-27B 还通过 Terminal-Bench 2.1 的 89 项任务中的 70 项。
Peter Baile Chen 等在 arXiv 发布 ExperienceIndex，为 AI 智能体引入基于语料（artifact）的经验记忆层，存储单个语料经验与语料对关系两类信息，以轻量中间件形式帮助智能体定位新任务的全部相关语料。在多种语料和搜索框架下，答案质量最多提升 11.0 分、在线成本最多降低 50.5%；并展示了 text-to-SQL 经验向事实问答的跨任务迁移，以及强模型经验帮助弱模型达到相近表现。论文链接 https://arxiv.org/abs/2610.10091v1
arXiv 论文 2610.10114 提出 Mechanics of Long-Context Hybrid Models 系列的 Part 1.1，研究全注意力与滑动窗口注意力（SWA）或门控线性注意力（GLA、GDN）混合架构的工作原理。作者发现上下文扩展中的 Seesaw Effect：LA 混合更受益于长上下文持续预训练，SWA 混合在长度外推上表现更好，并归纳了 SWA 混合的 Short-Context Learning Trap、Short-Window Weariness 和 Long-Window Laziness，以及 LA 混合的 Matthew Effect。
推荐理由：论文解释了混合注意力架构为何在长上下文上有效，并给出可复用的 Sliding-Window Linear Attention 设计与外推结果。
Huishan Ji 在 arXiv 发布 YANchor-4B，一种以 Anchor 保存关键记忆的通用循环模型，实现 O(N) 时间生成与 O(1) 内存。该模型在 AIME 2024–2026 上平均 pass@1 达 82.93%，HMMT 达 63.64%，优于线性时间常数状态的同类模型包括更大的模型；在 H100 上批量长生成吞吐比 Transformer 与混合基线高数倍，并在数十个基准上展示通用能力。论文 24 页 8 图，代码与模型已开放。
推荐理由：论文给出了循环架构在长程推理基准上的具体成绩和吞吐对比，读者可以据此评估 O(N) 时间加 O(1) 内存的实用性。
论文提出 Hyperbolic Symplectic Positional Encoding（HySPE），利用 Sp(2,R) 的双曲分支取代 RoPE 的旋转参数化，通过特征基对角化和分块坐标重定基实现与长度无关的数值界，缓存前向延迟与 RoPE 持平（RTX 4090 上 7.21 ms）。在 TinyShakespeare 上，HySPE-UltraLong 在 16 倍零样本外推（L=4096）时困惑度保持 4.810，而 RoPE 退化至 131.198；51M 参数 Transformer 在 WikiText-103 上外推到 8192 长度时，尾部困惑度较 RoPE 降低 83.9%。大规模基础模型上的扩展性评估仍是未来工作。
一项 arXiv cs.CL 研究系统探讨了如何用中间监督改进搜索智能体的强化学习训练。研究比较了多种 reward-shaping 与 credit assignment 策略，并构建了将中间检索步骤信号与最终结果奖励结合的训练框架。在相同训练条件下跨多个基准的实验表明，该方法提升了搜索智能体的整体性能，且中间信号的选择与奖励分配位置都会影响训练效果。
研究者提出 GAGR-Lab，一个通过笛卡尔游戏场景和 Rust 轨迹执行来测量空间感知、几何关系与函数构建等联合推理能力的评估框架。试点中 Llama 3.2 11B Vision Instruct 在 72 个游戏、432 次尝试中无一命中目标，而特权解析搜索控制在 300 个场景的 600 个方向性用例上全部成功。框架将服务可靠性、符号合规与几何成功分离，完整难度矩阵和多模型对比仍待测试。
论文提出 SemanticFold，一种在可学习边界折叠前缀隐藏状态的压缩方案，并在 Qwen3-1.7B、Qwen3-8B、SmolLM2-1.7B、Pythia-1.4B 和 Pythia-6.9B 五个规模上评测。固定目标协议下，压缩对各端点的影响非单调且不共享同一阈值，Qwen3-1.7B 在 R=1.7 时 NLL 降低 0.135，而 Pythia 两个模型的 NLL 基本不变；线性探针与推理指标变化小于 0.03。作者结论是潜在压缩下的能力保持没有单一标量证书，语言建模拟合、可解码性与推理在同一压缩操作下可能朝不同方向变化。
推荐理由：原文用固定目标协议把语言建模、可解码性与推理拆开评测，读者可以了解潜在压缩下各能力为何不同步。
一项 arXiv 研究基于认知负荷理论提出用推理 token 数作为无需读取思维链内容的低带宽监测信号。三个具备推理能力的大语言模型在 210 道选择题上分别被指示如实、虚假或不管真伪作答，结果显示真实作答消耗的推理 token 少于说谎与真伪无关作答。该结果证明提示的非真实响应策略会产生组级差异，是推理 token 数用于区分真实与非真实行为的初步概念验证。
研究者提出将投机解码建模为 Markov reward process，导出 Expected Decoding Rounds（EDR）训练目标，直接优化期望解码轮数，无辅助超参数，并给出精确的 temporal-difference 梯度和离线评估器。用 EDR 微调 DSpark 和 DFly 两个 drafter 后，平均接受长度持续提升，在覆盖数学推理、代码生成和对话的九个 benchmark 上优于现有训练目标。
一篇 arXiv cs.CL 论文研究了检索指令如何在非对称检索任务中影响查询的嵌入向量表示。研究发现，当评测中加入查询侧干扰项时，当前嵌入模型常无法遵循检索指令，作者认为根源在训练与评测设置。实验显示，加入查询侧干扰项进行微调可带来显著提升，且对其他任务影响很小。
一项 arXiv 研究发现 VLA 模型对指令措辞极其敏感：π0.5 在 LIBERO 中对 "switch on the stove" 成功率 100%，改为 "switch on the hot plate" 仅 2%。研究者让大语言模型将训练任务措辞证据蒸馏为 10-20 条改写规则，部署时重写指令，使冻结的 π0 在 12 个 held-out 任务上相对提升 16-27%，并在 π0.5 + LIBERO 上将成功率从 93.6% 提至 97.8%。该方法无需重训练和逐步验证，可零样本应用于未见任务。
arXiv 论文 2610.10536 提出 Exploration-Distillation（ExpDis）框架，将 RLVR 中的探索与优化解耦：训练带新颖性奖励的 explorer 策略，过滤轨迹后蒸馏进独立的 student 策略，student 训练时不带新颖性奖励，并多轮交替进行。在七个数学推理基准和两个模型家族上，ExpDis 在相同 wall-clock 预算下超过 DAPO，且 pass@$k$ 扩展更佳，表明生成的正确解更多样。代码与 checkpoints 已开放。
推荐理由：论文提出把探索与优化解耦的 ExpDis 框架，在七个数学推理基准和两个模型家族上与 DAPO 对比，方法描述完整可复现。
一项 arXiv 研究显示，RAG 中检索多样化的效果取决于候选池的冗余度：在干净池上会损害相关性、证据覆盖和答案质量，但在多证据任务且冗余导致最近邻检索重复选段时有益。作者提出查询自适应规则，仅在最近邻 top-k 的有效不同文档数低于查询证据需求时才多样化，该规则基于现有 embedding 计算，可跨数据集和编码器迁移；另提出带精确最近邻回退的几何重排器 RNG-Score。
研究者提出 CHASE（Channel-Aligned Structure Exploitation），利用几何与谱对齐（GSA）刻画的结构开展模型修改、重构与压缩，共覆盖六项应用。其中 CORA、COEC、CORAM 分别用于参数高效微调、结构化剪枝补偿和模型合并，新方法 CAGA 通过多头注意力共享 KV 表示改进 MHA-to-GQA 转换，SAKV 与 CAPS 分别在 KV-cache 压缩和结构化剪枝上优于代表性基线。结果表明 GSA 识别的结构可直接用于多种模型操作的方法设计。
一项研究以 FNS 2020 共享任务数据集（伦敦证券交易所上市公司年报及其摘要）为基准，比较了多种预训练 Transformer 摘要方法与抽取技术，并考察不同评估指标的行为差异。研究者认为部分指标无法真实反映摘要能力，提出由 ROUGE-2 与 BERTscore 调和平均构成的新指标 BRUGEscore，并通过统计显著性检验和三种污染方法的对抗分析验证结果稳健性。
一项基于 7 个开源模型、5 种验证信号、37,000 条标注链式推理（CoT）轨迹的研究提出“弃权即有效”观察：低触发率证书虽满足 (\alpha,\delta) 有效性，失败概率却可达 δ/P_fire，模拟中标准证书在校准抽样失败至多 0.3%，但触发时失败高达 69%。研究提出 floor-started 固定序列证书，在所有模型-信号组合上覆盖率超过 Bonferroni，在目标 0.75π₀ 下覆盖率从 0.05 提升到 0.16。研究还发现 benchmark 偏移和 best-of-n 选择下证书错误会超过目标，弃权机制吸收了这些失败。
一项 arXiv 研究评测开源与闭源 LLM 在否定基准上的表现，发现 37-71% 的情况下模型在否定问句中重复原答案（如问"什么不是西班牙首都"仍答 Madrid）。机制分析显示，专门的 attention heads 和 MLP 神经元通过抑制原答案并提升类别内偏好候选来实现否定，与人类处理方式不同，是失败的关键来源。研究提出的训练目标要求对高置信度原预测做更大的偏好偏移，在减少否定失败的同时，比标准微调基线更能保留通用能力。
论文提出协作推理蒸馏框架 CRD，通过教师互相交叉反馈批评、细粒度步骤质量评估与连贯性步骤拼接，提升小模型推理能力，并以带预算约束的 Reasoning Quality Optimization 训练。其模型 CRD-4B 在 MATH-500 达 97.3%、AIME'25 达 70.3%，仅用 50K 训练样本，比同类模型数据集最多小 12 倍。
论文提出 LASEF（Language-Aware Skeleton Exploration Framework），研究多语言数学推理中 LLM 骨架提示应使用哪种语言。实验覆盖多个数学 benchmark、模型规模和语言，发现英文骨架平均带来小幅正向倾向，在小模型和低资源语言上最明显，但校正后语言层面收益大多不显著，英文并非普遍最优。研究总结出方向一致、依赖评测与 benchmark、非对称负向三类效应，指出骨架语言是依赖具体情境的设计变量，资源已开源。
arXiv 论文 2610.09639 通过受控合成框架测量发现，reverse-KL 在线蒸馏（OPD）能在三个模型家族的四个模型上稳定迁移跨未见推理结构的组合性技能，但几乎不迁移事实知识。消融显示换用 forward KL 可恢复事实迁移，学生 rollout 则专门提升多步推理执行；在事实问答与竞赛数学实验中呈现同样的不对称。结论是 OPD 不扩充模型参数化知识，而是教会模型组织与组合已有知识。
推荐理由：论文用受控合成框架区分知识与技能两类能力，说明了 reverse-KL 在线蒸馏为何只迁移推理技能而不扩充事实记忆。
一项基于 Qwen3-0.6B 的受控研究显示，数据重复使 held-out loss 相对恶化 75%，同时 centred RankMe 反而升高 13.5 个合并标准差，谱弥散导致单侧监测把最差 checkpoint 判为最健康。作者提出双侧多通道时序监测器，能在 fork 后 10 到 60 步内检出全部三种损伤并按触发方向区分损伤类型，但其预警从不早于 held-out probe loss，且双种子校准会对留出的健康种子产生误报。
研究者提出 rubric 条件化简答题评分框架 RUSPAN，将 rubric 描述视为语义标签表示，把题目、学生答案和候选评分等级序列化为单序列，在单次 LLM 编码中逐级打分。其改进版 RUSPAN-RIM 引入 Rubric-Independent Mask，阻止 rubric span 相互注意以促进零样本迁移。在覆盖英语、德语、葡萄牙语的六个 ASAS 基准上，RUSPAN 优于判别式与生成式基线，RIM 配合位置重排在跨语言与 rubric 结构偏移最大的 PT-ASAG 留出基准上带来持续显著提升。
研究者发布 Alice，一个大规模、基于量规的德语自动简答题评分（ASAS）数据集，包含 Alice-LP（学习表现）、Alice-KE（知识要素）和 Alice-SK（技能）三个子任务。团队将其建模为量规检索任务，测试了从 encoder-only 模型到轻量 LLM 的多种语言模型及零样本提示。结果显示 LLM 在零样本下难以评分知识要素和技能；量规文本对 Alice-KE 与 Alice-SK 尤为有用。
Tianle Wang 等在 arXiv 发布论文，提出 Step-Aligned Privileged Distillation（SAPD），一种免 rollout 的自蒸馏方法，将示范解法转化为步对齐的分布性监督。在数学推理基准上平均优于 SFT 和标签平滑，与 on-policy 强化学习和自蒸馏相当，同时大体保持域外编码性能，训练循环较 on-policy 基线提速约 2x。代码已开源。
研究者推出 InsClaimBench，一个端到端评测 LLM 保险理赔裁定的基准，涵盖车险、财产险和健康险共 3,780 个案例、375 个案例族、86,656 条原子规则判断。对六个 LLM 的评测显示，赔付决策准确率为 74.23%–80.19%，决策与金额联合准确率降至 47.54%–73.15%；原子规则准确率达 95.48%，但规则向量完全匹配最高仅 36.90%，表明沿决策链的可靠组合与传播仍是关键挑战。
研究者提出 PersonTTS，一个摊销式智能体策略发现框架，将个性化测试时扩展（TTS）建模为发现可最大化用户在准确率、延迟和推理成本多维需求联合满足率的可执行控制器。该框架通过需求匹配的控制器初始化和源蒸馏的程序化引导复用先前搜索经验，同时对每个候选保留目标画像评估。在 AIME 和 HMMT 上的实验显示，PersonTTS 在未见用户画像和留出题目上大幅超越强 TTS 基线，跨用户体验复用还能在相同候选评估预算下显著降低发现智能体的时间与成本。
研究者提出 SpikingVLA，一种 ANN-to-SNN 转换框架，实现高精度、低延迟的脉冲 VLA 推理。其核心是 Dendritic Integrate-and-Fire（DIF）神经元与跨 VLA 组件的异步执行机制，以减少同步开销和延迟。相比现有脉冲 VLA 方法，SR 和 SPL 分别提升 11.9% 和 12.6%，首动作延迟降低 11.2×。
一项被 EMNLP 2026 录用的研究在 Llama 3.1 70B 和 Qwen 2.5 72B 中定位出 Bridge Routing Heads（BRH），发现其跨五种语言几乎互斥，Jaccard 相似度仅 0.017 与 0.057。消融实验显示，移除通用 BRH 会使两跳推理的 NLL 升至随机基线的 39-89 倍；在推理失败时放大这些头可无需训练地挽回最高 51.7% 的跨语言失败案例。
研究者提出 LatentGRM，一种基于语义分块、压缩与重建的潜空间评估框架，通过 rubric 引导压缩学习连续轨迹，无需生成文本评估即可完成自主成对判断。在相同训练数据与骨干模型下，LatentGRM 在 4B 与 8B 规模上取得与显式 SFT judge 相当的偏好准确率。LatentGRM-8B 在四个 benchmark 域上将评估轨迹压缩 8.9--9.2x，在 vote@5 下将 judge 总推理时间降低 6.1--7.0x。
Sergei Polezhaev 在 arXiv 论文 arXiv:2610.09858 中提出 Caddie，通过强化学习训练批评模型，依据 Agent 接收反馈后最终是否成功来优化，不依赖步骤级标注，且基础模型保持冻结。基于 Qwen3-4B 训练的批评模型提升了四个不同规模与架构基础模型的成功率；在 MuSiQue 上使 Qwen3-4B 成功率提高超过 25 个百分点，超过无批评模型的 Kimi K3，并在 τ³、DeepDive 等域外交互基准上无需额外训练即有增益。
推荐理由：论文用任务最终成败而非步骤标注训练批评模型，读者可以了解一种可跨模型迁移的 Agent 反馈训练方法。
araz4111 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本，平均码率 3.04 bpw，总大小 273 GiB，基于 zai-org/GLM-5.3 的权重编辑无对齐变体，架构为 GlmMoeDsaForCausalLM，753B 参数、256 路由专家（8 激活）加 1 共享专家，包含 MTP 层可作投机草稿。作者提供了 wikitext-2 上的 KL 散度与困惑度保真度数据，以及 tau2-bench 智能体评测，与 Z.ai FP8 原版差异不具统计显著性；并提示 TabbyAPI 的 glm4_5 解析器会把字符串参数 JSON 解码为整数，导致零售场景约 70% 工具调用失败，使用前需修复。
Reflection 发布开放权重模型 Beam 1.0，采用 MoE 架构，总参数 501.3B、激活 23.4B，支持 1M 上下文，以 Apache 2.0 许可提供 BF16、FP8、NVFP4 三种精度。官方称其推理 token 用量约省 3 倍，SWEBench Verified 达 81.6%，AIME 2026 达 97.7%，不禁止蒸馏和微调。
推荐理由：官方模型卡给出完整基准表和三种量化版本数据，读者可以据此对比 Beam 与其他开放权重模型在编码和推理任务上的表现。
Liquid AI 在 Hugging Face 发布开源决策模型 d1-3B 与实验性 d1-omni-600M，模型不做 token 生成而在单次前向传播中给出答案。d1-3B 在 Decision Index 0.2.1 得分 48.57，为 10B 以下最佳，基于 LFM2.5-VL-3B 训练，支持文本与图像输入，在 Jetson AGX Thor 上单问题推理仅需 16 ms，RTX 4090 上 8 ms；在七个公开数据集上均分 82.9，高于 Decider 4B。d1-omni-600M 基于 LFM2.5-Encoder-350M 并加入视觉与音频编码器，均分 78.4 超过参数量四倍于它的 Decider 2B（77.1），目前为早期研究版本。
推荐理由：决策模型不做生成而是单次前向输出答案，原文给出的边缘设备毫秒级延迟数据展示了这一路线的实际可行性。
NVIDIA 基于 Nemotron 3，通过 SFT、RL 和反馈驱动推理分别构建了达到 IMO 2026 和 IOI 2026 金牌水平的系统。IOI 2026 上 Nemotron-3-Ultra-CC 得 535.4/600，高于 361.12 的金牌线和 498.27 的人类最高分；IMO 系统用 SFT 与 RL 检查点加 generate-verify-refine 流程得 30/42，超过 29 分金牌线，全程仅用自然语言，无形式化证明器或外部工具。SFT/RL 检查点、训练数据集、含 200 道竞赛题的 Nemotron-IMO-Bench 及 NeMo-Skills 推理管线已在 Hugging Face 开放。
推荐理由：原文完整给出了两个项目的训练数据规模、各阶段分数和可复用的四步特化配方，权重、数据和推理管线都已开放。
一项 arXiv 研究（AACL-IJCNLP 2026 短文）提出惩罚框架下的无有效选项 MCQA 设定，在 MMLU-Pro 数学子集上移除标注正确选项，允许模型选择剩余选项或输出 ABSTAIN 并对无效强制作答施加惩罚。实验表明，高 MCQA 准确率并不能完全保证弃权可靠性：即使在明确的无有效选项指令和惩罚计分下，模型仍会对部分原本答对的题目给出无效强制作答，揭示了标准选择题准确率无法反映的可靠性维度。
arXiv 论文（https://arxiv.org/abs/2610.08164）提出免训练的两阶段闭式低秩量化误差补偿框架：Stage 1 以 Fisher 加权非对称目标将各层输出对齐全精度模型，Stage 2 在补偿后模型上做秩约束自然梯度步吸收剩余一阶信号，每个 adapter 只需一次截断 SVD。在 2 bit QuIP# 下，Qwen3-8B 的 WikiText-2 困惑度从 12.43 降至 10.26，Qwen3-4B 从 21.11 降至 13.22；在 C4 上相对最强基线（31%/63%）分别恢复 51% 和 84% 的到 FP16 的差距，并在更高位宽和另一量化器下保持增益。
推荐理由：论文指出既有低秩量化误差补偿的两个共同简化，并用两阶段闭式框架在 2 bit 极端量化下给出可复现的困惑度改进。
一篇 arXiv 立场论文指出，多语言 LLM 评测依赖的“翻译同构假设”对语用标记、敬语、历时分层词汇等概念在原理上不成立，并定义了 α-unalignability 形式化刻画。论文用 usage-cloud 框架给出三层证据：FLORES-200 翻译失败与语系和资源等级相关而与文字无关，以及九模型 Yami 案例中的 Representation-Intervention Gap。作者提出 Cycle-Consistency、Pragmatic-Load Disagreement、Manifold-Curvature Mismatch 与 RIG 构成的多维诊断框架。