VFold：对称感知的跨层 value cache 压缩方法
arXiv 论文提出 VFold，一种对称感知的 value cache 合并策略，可在 LLM 解码时压缩 KV cache 内存，同时避免性能下降且无需修改模型架构。该方法可与高比率量化或 key cache 剪枝等现有压缩技术叠加，达到单一方法无法实现的压缩比，为内存受限下扩展上下文窗口提供了简单有效的方向。
#推理引擎
新闻、仓库与研究，按时间排列。
arXiv · cs.CLAI 评分3737 Hugging Face · 趋势模型精选AI 评分7272 Underdog 发布 Saluki 27B 量化版，7.89GB 跑通 Qwen3.8-27B 并保留工具调用
Underdog 在 Hugging Face 发布 Underdog-Saluki-27B-1.0，基于 Qwen3.8-27B 的 GGUF 量化版，仅 7.89GB（全尺寸 54GB），可在标准 llama.cpp 上运行。Underdog Bench 上工具调用 88/120，超过全尺寸模型的 84；并行工具调用 42 对 35，9 项基准平均保留 96%。竞赛数学保留约 82% 到 85%，弱点在字母级指令谜题，部分并行调用回复有小格式错误；可选 0.6 到 0.9GB 的 mmproj 文件添加视觉能力，Apache 2.0 许可。
推荐理由：原文给出与全尺寸模型同 harness 的工具调用和基准对比数据，读者可以据此判断这个 8GB 量化版本到底保住了多少能力。
arXiv · cs.AIAI 评分2828 BEVPIPE：用可移植 GPU 计算部署 BEV 感知的算子失配问题
BEV 感知模型依赖稀疏 3D 卷积与几何 scatter 操作，现有推理运行时无法表示，且稀疏卷积库均为 CUDA-only 并与 PyTorch 耦合。论文提出 BEVPIPE 框架，将模型切分为运行时管理的稠密子图和 voxelizer、sparse encoder、BEV projector 三个外部算子扩展，通过共享 GPU 内存连接。BEVPIPE 实现相比传统部署 19.5x 的端到端加速，保留 98.5% 的参考 mAP，并可跨不同 GPU 后端移植。
arXiv · cs.AIAI 评分1717 AtomWorld-Mirror：面向材料动力学的宏观步长世界模型
研究者提出 AtomWorld-Mirror，一个面向原子系统关键演化骨架的时间感知宏观步长世界模型，将短微事件片段蒸馏为关键状态间物理可达的跃迁。该方法在 Cu-rich RPV 钢辐照老化、Cu-Zr 金属玻璃、Li$_3$N 基反钙钛矿固态电解质等五个原子系统上，推理速度较逐事件模拟提升 10^3 至 10^4 倍，同时保持结构有效性与时间语义。
arXiv · cs.AIAI 评分4343 ReTeach：通过多轮反思与重试构建自教师模型
ReTeach 是一种反思式自蒸馏框架，仅用模型自生成的尝试和结果级验证，通过多轮反思与重试构建自教师，无需参考答案、外部诊断反馈或跨样本记忆。其结果感知的选择与加权策略区分初始正确、反思纠正和未解决样本，并通过 on-policy 蒸馏将迭代纠错收益转移给学生模型。在数学推理、科学问答和工具使用的六个 benchmark 上，ReTeach 平均准确率比 GRPO 提升 1.39 个百分点。
arXiv · cs.AIAI 评分3434 InfiLoop：让 looped Transformer 稳定扩展到上万次测试时迭代
论文提出 InfiLoop，一种 loop-native 残差连接，通过内容加权与学习的时间衰减维护循环状态的持续聚合，解决 looped Transformer 随迭代次数增加性能退化的问题。7M 参数的 InfiLoop 在 Sudoku-Extreme 上达到 97.9% 精确率，ARC-AGI-2 上达到 13.6% pass@2，并可在测试时循环超过 20,000 有效步仍持续提升。代码已开源。
arXiv · cs.AIAI 评分3838 SDPAD：面向端到端自动驾驶的全脉冲驱动管线
SDPAD 是一个全脉冲驱动的端到端自动驾驶规划管线，通过量化 ANN2SNN 转换、Spike-3D-Lift 和 Spike-QFormer 将预训练 ANN 感知栈转为整数脉冲形式。在 nuScenes 开环基准上，SDPAD 平均 L2 误差为 0.40m，碰撞率 0.12%，能耗仅 69.9mJ，不到近期 ANN 基线的 2%；在 NAVSIM navtest 闭环评测中达 86.3 PDMS，超过此前 SNN 规划器 SAD 4.3 分。作者称其为首个在端到端自动驾驶中评测的全脉冲驱动规划器。
arXiv · cs.AI精选AI 评分5252 NanoProof 论文提出端到端可复现的 Lean 4 自动定理证明器
Matěj Kripner 发布 NanoProof，据作者所知是首个训练数据、提取工具、训练管线和权重全部开源的因子化执行引导式 Lean 4 定理证明器。该方法在 MiniF2F-Test 上取得 50.8% pass@16，算力约为 HyperTree Proof Search 的 1/90、ABEL 的 1/7，比 AlphaProof 少四个数量级以上；论文同时发布了结构化证明树数据集和 Lean 4 程序化交互与数据提取工具。原文链接 https://arxiv.org/abs/2610.11605v1。
推荐理由：论文公开了训练数据、提取工具、训练管线和权重，读者可以低成本复现这一类 Lean 4 定理证明器并对比算力开销。
arXiv · cs.AIAI 评分4444 LS-LoRA：层选择性微调如何兼顾任务适配与通用能力保留
研究者提出 Layer-Selective LoRA（LS-LoRA），将可训练 LoRA 适配器只放在输入-输出相似度较低的 Transformer 层，该相似度可作为经验 Fisher 信息的前向代理指标。在数学推理和代码生成实验中，LS-LoRA 相比全层 LoRA 提升了目标任务平均性能，同时保留更多常识推理能力。
arXiv · cs.AIAI 评分3232 基于约束命令条件强化学习与多臂老虎机策略选择的即时战略游戏研究
研究者为 MicroRTS 即时战略环境提出约束命令条件 PPO 执行器，将策略命令选择与单位控制分离，用 Thompson 采样多臂老虎机根据对局内观察估计对手策略并选择命令。在与相同架构、预算和自博弈联盟训练的扁平 PPO 基线对比中，该系统对四个最强对手中的三个胜率显著更高，其中两个 held-out 对手胜率分别从 0.55 提升到 0.97、0.01 提升到 0.34。
arXiv · cs.AIAI 评分2525 智能序贯决策的 3D 表征框架：以汉诺塔对比 Neurosolver、FBRL 与 AutoToS
研究者提出一个三维表征框架，从 MDP 形式化、人类先验自主度、技能与计算成本三个维度统一比较 AI 序贯决策方法。基于汉诺塔谜题，他们分析了 Neurosolver、FBRL、AutoToS 及 DA-ToS 等图结构、强化学习和 LLM 方法。结果显示 LLM 方法因动作空间约束弱，把复杂度转移到推理时验证，内存与运行时间成本显著高于 Neurosolver 和 FBRL。
arXiv · cs.CLAI 评分2727 MetaEncoder：探索用自然语言接口做多模态 System One 决策的双编码器极限
MetaEncoder 将预训练的 Muse-Glimmer 30B 解码器微调为指令跟随的决策编码器，让用户请求和候选选项均以自然语言表达并支持图像、视频输入。其采用双编码器架构与单向对比学习，可覆盖小于 256 的封闭集和百万级开放集候选空间。在 11 个 benchmark 套件、190 个任务上的评测显示其部分超越 SOTA 多模态编码器，但在推理密集型任务上仍有局限。
arXiv · cs.CLAI 评分4343 ReCal：面向在线策略蒸馏恢复的结构化剪枝校准方法
研究者提出 ReCal（Recovery-Aware Calibration），一种即插即用的剪枝前校准调整方法，用于提升剪枝推理模型在线策略蒸馏（OPD）的恢复效果。ReCal 利用未剪枝 teacher 与剪枝 probe 之间的 forward KL，识别被剪枝破坏的 teacher 支持预测并重加权校准统计量。在多个模型和剪枝方法上，ReCal 在 OPD 后数学推理最高带来 16.7 个百分点的 AIME 提升，多数代码生成对比中也有改进。
arXiv · cs.CLAI 评分1818 RL-ARC：通过推理引导的不确定性校准大型推理模型
研究者提出 RL-ARC 校准训练框架，联合利用推理置信度与答案置信度，将推理置信度作为正确情形的引导正则化与错误情形的过自信惩罚。在 ID 和 OOD 设置的实验中，RL-ARC 不仅改善校准，还让模型能根据问题自适应估计置信度，且不明显牺牲推理性能。
arXiv · cs.CLAI 评分4646 AdaptEvo：演化监督下的自适应智能体学习框架
论文提出 AdaptEvo，一个在监督不完美条件下学习的框架，结合基于置信度的 CA-GRPO 策略优化与不断演化的决策知识和评估 rubric。使用 Qwen3.6-35B-A3B，在工业多模态内容审核数据集 In-Period 测试上达到 61.9% 精确标签准确率和 72.2% 二元决策准确率，分别超过 GRPO 7.5 和 3.7 个百分点。在规则变化的 Out-of-Period 测试上，CA-GRPO 训练的策略对基座模型保持准确率优势，而 GRPO 随训练持续下降。
arXiv · cs.CLAI 评分2929 SignRAG：统一的无 Gloss 手语翻译检索增强框架
研究者提出 SignRAG，一个面向 decoder-only LLM 的无 gloss 手语翻译统一框架，结合层级预训练、目标域检索增强和检索感知强化微调（RUG-RFT）。该方法在多个 SLT benchmark 上刷新 SOTA，据作者所知是首个在 CSL-Daily 所有指标上超过 gloss 监督方法的无 gloss 方案。代码及不同规模模型已在 GitHub 开源。
arXiv · cs.CLAI 评分3131 BioBigBird：面向生物医学长文本的稀疏注意力模型
研究者推出 BioBigBird，一个在生物医学文献与临床数据上预训练的双向语言模型，采用稀疏注意力机制处理最长 4096 token 的序列。模型通过多阶段训练降低语料噪声，并用多任务学习（MTL）框架联合优化命名实体识别和关系抽取。在 BLURB benchmark 上的评测结果显示其与 SOTA 模型表现相当，模型已公开可用。
arXiv · cs.CLAI 评分2929 MARI：为 LLM 推荐系统蒸馏结构化决策记忆，突破序列建模局限
论文提出 MARI（Memory-Augmented Recommendation with Interpretability），通过决策记忆库（DMB）以结构化决策记忆（SDM）记录用户的目标、约束与权衡，经 Post-Hoc Decision Distillation 从异构行为离线生成，检索后增强 LLM 推理。实验显示 MARI 在标准 next-item prediction 和新提出的 Difficult Choice Prediction 任务上显著超越 SOTA 基线，且因记忆构建与在线推理解耦而延迟开销低。
arXiv · cs.CLAI 评分3131 LLM 中的现代标准阿拉伯语（MSA）是否支配阿拉伯语方言？一项表征层面分析
该研究将语言支配框架适配到 26 种阿拉伯语变体，检验“LLM 内部表征由现代标准阿拉伯语（MSA）支配”的假设。结果未发现 MSA 在各层、各模型族中构成支配性内部表征，方言表征反而形成高度重叠的稠密空间，归一化互信息相比差异更大的语言急剧下降。研究表明 MSA 偏向的生成输出并不必然反映内部表征支配，分析多语言与方言 LLM 时应区分生成偏差与内部表征几何结构。
arXiv · cs.CLAI 评分4949 Residual Advantage：面向可验证奖励 RL 的学生相对教师引导方法
研究者提出 Residual Advantage（RA），将师生概率残差视为有界单步奖励，并结合 GRPO 或 REINFORCE++ 改进 RLVR 训练。在 Qwen3-1.7B-Base 和 Qwen3-4B-Base 学生搭配 Qwen3-8B 教师的实验中，RA 在三个数学 benchmark 的全部 24 组对比中均优于基础序列优势算法，macro Avg@8 提升 1.7–3.6 点，Pass@8 提升 3.9–6.3 点。其 CoRA 变体进一步带来 1.0–1.5 Avg@8 点提升，两种组合均超越仅用教师的 OPD。
arXiv · cs.CLAI 评分3535 WebLoop：面向网页生成的执行驱动循环学习方法
清华团队等提出 WebLoop，一个在共享策略中联合学习生成、批判与修正的执行驱动框架，为无需执行的 Critic 引入需求级判别力与下游有用性互补信号。基于 Qwen3.5-9B 的 WebLoop 在 WebRise 上达 41.5 Overall，在 WebGen-Bench 上达 38.9% 准确率，分别比基座模型提升 11.3 和 15.4 个点。增益可迁移到首次生成、27B 规模及多模态输入，且受控分析表明仅靠额外一轮修正无法解释该提升。
arXiv · cs.CLAI 评分5151 ProloNg 测试题用 Prolog 探测大语言模型长程演绎推理能力
研究团队构建了 ProloNg 合成测试题，用 Prolog 表达的演绎逻辑系统变化推理深度，最难情形达到深度 22、上下文 62k。对 5 个家族共 8 个推理模型的测试显示，随推理深度增加性能大幅下降，多数模型在深度超过 10 后接近随机水平。
arXiv · cs.CL精选AI 评分5555 DIAL-OPD：按学习价值筛选 token 提升在线策略蒸馏效果
Anhao Zhao 等提出 DIAL-OPD，一种在线策略蒸馏中的 token 选择方法，用教师与学生概率的对数均值加权奖励，保留得分最高的 token。在 4 组师生模型和 7 个数学推理基准上对比 9 个基线，仅保留 40% token 即超过全 token Vanilla OPD，平均准确率提升最高 5.25 个百分点，AIME25 Pass@16 从 13.33% 翻倍到 26.67%，并用 4B 教师超过 8B 教师的全 token 基线。
推荐理由：论文用概率空间加权解决 on-policy 蒸馏中低低 token 的干扰，给出了跨 7 个基准的对比数据，方法有可迁移性。
arXiv · cs.CLAI 评分1515 结构化情感分析：用序列标注求解依存图解析
一项研究将结构化情感分析任务转化为依存图解析，但改用序列标注方式，借助线性化图编码为输入中的每个词分配标签，从而捕捉情感持有者、目标和表达构成的图结构。实验覆盖五种语言（英语、西班牙语、挪威语、巴斯克语和加泰罗尼亚语）的七个数据集，性能与更复杂的领先单模型方法相当。
arXiv · cs.AIAI 评分3636 容错基础模型：LLM 可被训练适应不可靠硬件
一项 arXiv 研究显示，LLM 可以被训练以容忍硬件不可靠性，且随着模型规模增大，其错误韧性反而提升。基于 40,000 GPU-hours 在模拟故障数字硬件上的训练，研究者推导出修正的神经缩放定律，并猜想经过适当训练的 LLM 可能是形式上容错的，这意味着在低功耗故障硬件上运行 AI 推理有望带来可观的能耗节省。
arXiv · cs.AIAI 评分3131 SOTA：基于期权隐含收益分布引导的股票期权交易智能体
研究者推出 SOTA，一个结构化期权策略选择的智能体交易框架，通过后训练 Qwen3.8-27B（先监督微调再强化学习）构建。在 9 只美股大盘股和 SPY 的期权上评测，6 个月样本外实现 18.3% 总回报，Sharpe 比率 1.60，最大回撤 8.96%。研究还发现强化学习阶段保留新闻会使样本外回报从 18.3% 降至 -2.7%。
arXiv · cs.AIAI 评分3737 SQAM：基于标量伴随匹配的 Q-Learning 方法用于流策略微调
研究者提出 Q-learning with Scalar Adjoint Matching（SQAM），利用预训练流策略速度 Jacobian 对角集中的特性，推导出闭式标量伴随，省去逐步向量-Jacobian 乘积。在 OGBench 四个最难领域上，SQAM 成功率比各域最强基线高 18 到 35 个百分点；在真实双臂机器人上微调视觉-语言-动作策略，三个任务均优于监督微调。
arXiv · cs.AIAI 评分5050 JOLT：联合在线学习与教学的自我蒸馏训练方法
论文提出 Joint On-Policy Learning and Teaching（JOLT），让同一策略同时充当特权教师和学生，教师用结果奖励加 token 级 KL 正则化目标训练，学生通过在线策略蒸馏获得密集监督。分析给出了教师蒸馏更新为学生奖励梯度正倍数的充要条件，指出教师还需匹配学生当前能力。在数学推理、代码、工具使用和终端使用任务上，JOLT 提升了训练效率与性能，学生奖励带来进一步增益。
arXiv · cs.AIAI 评分4646 Δ-MOPD：基于教师相对偏移的多教师 on-policy 知识蒸馏方法
一项 arXiv 研究提出 Δ-MOPD，在多教师 on-policy 蒸馏中不再迁移教师的端点策略，而是迁移教师相对其基座模型的 logit 偏移，并将其重新锚定在学生的冻结初始状态上。三个教师组合时，Δ-MOPD 比 endpoint 组合高出 4.11 Math 和 1.95 五基准分数；phased 路由下将顺序差距从 10.50 降至 6.42 点。结果表明目标构建是 MOPD 中独立于教师选择的设计维度。
arXiv · cs.AIAI 评分4242 RECAST：通过自适应证据路由学习计算正确的上下文
RECAST（Routing Evidence through Computation, Access, and Synthesized Tools）提出一个学习式框架，把证据构建建模为对异构检索与计算操作的序列决策，让证据被主动推导而非仅仅检索。其 RouterLM 经 SFT 与 GRPO 训练，在 6 个基准家族上平均成功率 75.6%，超最强基线 15.9%；在 3 个 held-out 基准上平均领先 15.0%，Qwen3.5-9B RouterLM 超 Gemini 3.5 Flash 5.0%。
arXiv · cs.AIAI 评分3434 Long-WAM：扩展世界-动作模型的上下文
Long-WAM 是一个在实时控制约束下扩展因果世界-动作模型上下文的模型-系统框架，核心发现是视频基础模型采用自回归（AR）预训练时，更长历史才能真正带来收益。在 RoboCasa GR-1 上，上下文从 0.0 秒增至 19.2 秒，成功率从 63.3% 提升至 78.7%，并在 LIBERO-Long、RoboTwin 2.0 和 DOMINO 上取得对比方法中的最佳结果。系统可在 RTX 5090、DGX Spark 和 Jetson AGX Thor 上部署，每个 action chunk 耗时 107.4 ms，在 Unitree G1 和 YAM 上实现动态杯叠 95% 成功率，而 Pi0.5 与 Fast-WAM 在 20 次尝试中均未成功。
arXiv · cs.AIAI 评分3939 CERO：面向 RL 后训练的 rollout 预算分配调度方法
论文提出 CERO，一种在线原始-对偶调度器，用于在强化学习后训练的整个训练周期内协调有限的 rollout 预算，自适应决定选取哪些 prompt、重访频率及每轮生成组数。在匹配训练响应预算下，CERO 在三个 backbone、五个数学推理 benchmark 上均取得最高 avg@16 宏平均，多种子消融验证了自适应 pacing 相对均匀和预设花费策略的收益。
arXiv · cs.AIAI 评分3434 CoCo-Prover：通过智能体编排实现高性价比的定理证明与程序验证
研究者提出 CoCo-Prover，将成本高效的程序定理证明形式化为元层级决策：在声明内的 AND/OR 证明超图与声明间的引理依赖图之上，通过智能体路由为每个专家调用按价选购动作。在 CLEVER、VERINA、AlgoVeri、NTP4VC、Vero 五个 Lean 4 基准上，它在每个基准均取得最佳解题率，其中两个基准最高达 100%，相比最强基线最多降低 30.9% 成本。
arXiv · cs.AIAI 评分5151 System Switch 论文研究快决策模型何时应停下来调用推理模型
arXiv:2610.09683 研究双进程 Agent 中快速决策模型按门控把控制权交给推理视觉语言模型的时机，实验基于闭环 Doom 与 System One 类型化决策模型。在 900 道留出题上，0.15B 到 9B 的零样本决策模型在错误中选择收集道具的频率是随机的 1.6-1.8 倍；准确率、校准与灵敏度相互独立；离线把置信度最低的 30% 决策延迟给推理模型，收益与 Actor 的 AUROC 成比例（秩相关 0.87），在留出游戏上选定后收益 +0.13 [0.08, 0.18]（doomLaya 选项顺序）和 +0.08 [0.02, 0.14]（打乱顺序）；闭环 33 局三个种子中无变体到达出口，但承诺执行计划能开门更多。代码、提示词、数据与日志已开源。
arXiv · cs.AIAI 评分4646 Unrolled Flow Models 如何用于推理
一项 arXiv 研究证明，两层 Transformer 参数化的 flow 可解决图可达性问题，且所需积分步数随目标距离增加；标准 flow 语言模型却难以从更多积分步中获益，原因是各时间点被独立监督。研究改为在 [0,1] 随机子区间上训练模型自身的 latent rollout、仅在端点解码，在 ProsQA 上准确率达 97%，Sudoku 与 Maze 等任务通过将 latent 收缩到球面上显著超越参数量三倍以上的基线，配合无参数选择分数的多 rollout 采样可进一步提升性能。
arXiv · cs.AIAI 评分2828 超越策略支持：面向自动驾驶的交互约束离线强化学习方法 ICDP
研究者提出 ICDP（Interaction-Constrained Drive Policy），一种离线强化学习框架，显式控制自动驾驶中的交互分布偏移（IDS）。该方法通过对比密度比估计分离交互支持分量，无需联合密度建模、周围智能体预测或仿真器 rollout。在 nuPlan、Interplan 及真实卡车实验中，ICDP 抑制了高价值但缺乏交互支持的轨迹选择，提升了交互关键场景的表现。
arXiv · cs.AIAI 评分1515 基于 MARL 的 TSN 车联网边缘网络截止期感知调度研究
研究者提出一种基于 MAPPO 的多智能体强化学习方法，为 TSN 车载边缘计算（VEC）中的每个队列分配智能体，联合学习服务顺序与时隙时长以减少截止期错过。相比集中式单智能体方法，该方法最多降低服务延迟 66.2%、提升可靠性 271.8%，且推理时间低于其他 MARL 方法。
arXiv · cs.AI精选AI 评分5252 PaTh 论文提出在扩散模型中引入递归潜空间推理，无需符号监督
Paweł Skierś 在 arXiv 论文中提出 Painter-Thinker（PaTh）：一个小型递归网络在每个去噪步骤内细化潜状态，经 ControlNet 适配器引导冻结的扩散模型，仅用重建损失训练，无需符号目标、求解器或验证器。PaTh 解决 92.5% 的困难 MNIST Sudoku（此前最优 75%）和 71.2% 的极难样本（此前最优 4.1%），参数量 10M 对比标准扩散模型的 82M，在迷宫、Queens 和 CLEVR 场景上也有提升。
推荐理由：论文把递归推理引入扩散模型且无需符号监督，并给出与既有最优方法的解题率对比，方法细节可直接参考。
arXiv · cs.AIAI 评分1616 QCATS：查询上下文感知的 Transformer 切片框架，实现高效数据库内预测查询
QCATS 是一个查询上下文感知的 Transformer 切片框架，利用查询谓词和元数据统计在模型执行前预选上下文对齐的 FFN 切片，实现数据库内高效稀疏推理。框架包含离线专家构建和轻量查询级路由，并引入异步 CPU-GPU 流水线与路由感知批处理等系统优化。在 BERT-base 和 Qwen-0.6B 的四项预测查询工作负载上，QCATS 延迟最多降低 4.42x，预测精度与稠密基线相当。
arXiv · cs.AIAI 评分5050 RollVerify 论文提出验证机制缓解长尾 rollout 强化学习的效率与准确率矛盾
Yongqiang Yao 等在 arXiv 发布论文 RollVerify（arXiv:2610.09914），提出基于部分 rollout 的轻量强化学习框架，在样本进入训练前主动验证并修复，而非被动重加权。框架引入偏离策略度量 OPS，据其约束进行序列级与 token 级验证、截断无效后缀。数学与工具辅助数学推理实验显示其准确率接近全在策略训练且降低训练成本，代码生成结果提供了数学之外的初步证据。