新闻、仓库与研究，按时间排列。
研究者提出 Lifted State Policy Optimization（LSPO），将有限、成本调整后的状态转移作为学习基本单元，为文本答案学习连续坐标并用能量函数排序，通过塑形奖励与内化损失把低能量答案吸收进直接生成器。在 Qwen3.5-27B 上，单次推理策略在数学、科学、代码与逻辑基准上达到 71.8% 总准确率，接近测试时反思的 71.9%，同时延迟降低 28%、token 减少 25.8%。该模式在稠密与 MoE 骨干上均成立，代码已开源。
Wei Chen 等人在 arXiv 发布 HP-RLVR（Hindsight-Privileged RLVR），用已完成轨迹自身的未来信息生成 token 级更新权重，替代 GRPO 的组采样。方法对每个 token 在因果历史与含验证器反馈的后见上下文两种视角下打分，以归一化 Jensen-Shannon 散度加权奖励，成功与失败轨迹都有有界信用，无需参考答案或 critic。在共享 100 步 schedule 的 Qwen3-8B 配对实验中，HP-RLVR 在数学、代码生成和 ALFWorld 上分别比 GRPO 快 1.21x、1.46x 和 2.30x，每 prompt rollout 用量为八分之一；总体准确率相当，数学上 HP-RLVR 领先，代码与 ALFWorld 上 GRPO 领先。
论文提出 CriticOPD，改进在线蒸馏（OPD）。OPD 假设教师模型能从学生写的任意前缀推出正确答案，但该可恢复性在错误 rollout 上失效——教师会跟随学生错误。CriticOPD 让教师对错误 rollout 给出批评，学生据此重写解答，教师评分时将批评作为特权信息，学生训练时则不含批评。在两个 Qwen3 学生模型和六个数学推理基准上，CriticOPD 均优于 OPD，竞赛题提升最大。
研究者提出一种超越 LLM 评判的 Lean 形式化验证方法，将 LLM 语义审查与机械化数值和空泛性检查结合，可给出可核查反馈并发现 LLM judge 漏掉的错误。该方法配合 Extract-Verify-Proof 自动形式化流水线构建了 NIST DLMF 的部分形式化库 FLMF；在三个标注数据集上，其接受错误率为被评估方法中最低，专家审查还发现了现有数据集的翻译与来源缺陷。代码已开源。
一篇 arXiv 论文分析了智能体市场中以一价拍卖（FPA）分配用户提示词时的无序代价（PoA）。论文提出两个可降低福利损失的特征：竞争下限与条件近似独立性，后者可推导出接近最优福利 1 - 1/e² 的效率保证，均优于一般情形的 1 - 1/e；结果在 EmbedLLM 提示词路由数据集上获得实证验证。
Walter Simoncini 在 arXiv 发布论文，提出免重训练方法把预训练 Transformer 变成可在连续算力预算间自适应的单一模型，核心是对功能单元排序问题做可微松弛，在统一尺度上联合排序每个 MLP 神经元和注意力头。在 22M 到 8B 参数的 27 个视觉与文本 Transformer 编码器上，方法在最高 60% 稀疏度下平滑退化并优于 one-shot 基线；DINOv3 ViT-H+/16 剪枝到 50% 稀疏度移除 427M 参数，ImageNet-1k linear-probing 精度仅降 0.8%；AugReg ViT-B/16 在 60% 稀疏度下于 A100 GPU 上吞吐提升最高 1.80 倍、单查询延迟降低 1.26 倍。
推荐理由：论文给出免重训练的弹性剪枝方法，在27个模型上验证60%稀疏度下的精度与吞吐数据，可复现。
arXiv 论文 2610.20597 提出一种为语言智能体引入多步动作目标的训练方法，在成功轨迹上训练策略骨干生成后续动作序列，并从历史预测每个动作形成时间集成，使行动与预测协同演化。在 ALFWorld、ScienceWorld、WebShop、τ²-bench 和 AppWorld 五个基准上，该方法整体表现超过 GRPO 及带预测辅助目标的 RL 基线，在 ScienceWorld 上样本效率分别比 ECHO 和 GRPO 高 1.9 倍和 2.0 倍，且只用单一策略骨干，推理时无额外开销。代码已开源。
推荐理由：论文给出多步动作目标的训练方法，在五个基准上对比 GRPO 等基线并报告样本效率倍数，方法可复现且代码已开放。
论文提出 RM-OPD，一种基于在线蒸馏（On-Policy Distillation）的两阶段生成式奖励模型训练框架，用于替代混合域偏好数据上的 Mix-RL 方法。该框架先通过单域 GRPO 微调训练各领域专家教师模型，再经路由在线蒸馏、域贡献重加权及可选的 criteria context distillation 将其整合进一个学生模型。在多个 RM benchmark 和两个基座模型上，RM-OPD 持续超越 vanilla Mix-RL 等基线，并出现"超越教师"的涌现效应。
TreeSpark 是一个扩展 DSpark 半自回归架构的推测解码训练与推理框架，通过单次 backbone 前向构建父节点条件候选树，并用 survival NLL 与 capped coverage hinge 两个目标监督树的扩展、剪枝与打包，无需额外 target 前向。在 Qwen3-4B 与 Qwen3-8B 上的九个通用基准和六个写作域评测中，TreeSpark 较 DSpark 将平均接受长度提升 23.4%–31.6%，单请求吞吐提升 15.1%–25.0%，批量 Qwen3-4B 吞吐提升 12.6%–17.2%。
一项 arXiv 研究提出考虑语言重复性的联合扩展规律，刻画活跃参数量、每语言训练 token 数、专家数与语言覆盖之间的关系，基于 64 个预训练配置的 26,300 条逐语言 loss 观测拟合，预测误差较最强基线降低 28%。在相同活跃参数与每语言 token 数下，32 个专家将语言从 12 扩展到 200 时的 loss 损失较稠密模型减少 83%。
arXiv 论文提出 FOLD，一种免训练的长上下文投机解码方法，保留精确局部位置并将远端条目作为共享位置的远端记忆处理，通过锐化注意力缓解注意力稀释。在六组 target-drafter 组合、最长 256K tokens 的基准上，FOLD 多数情况取得最高加速，最佳案例将相对自回归解码的加速从 2.08× 提升至 4.22×。
研究者提出 MolLean，一种基于 Lean 内核的过程可验证语言，将化学链式推理锚定在显式分子状态上，可检验状态转换与分子断言，并配套提供有状态工具接口 MolLean-MCP。在覆盖分子生成、编辑、优化与反应的 12 个任务、8800 个匹配样本上，Qwen3.6-27B 的全轨迹精炼模式在全部 12 个任务上优于直接链式推理，MolLean-MCP 则在反应任务上表现更佳。
ReaDy 是首个利用混合线性注意力（HLA）模型循环状态进行推测解码中按位置上下文检索的方法，通过可学习查询和轻量 state reader 补充草稿上下文。基于 DSpark 框架，在数学、代码、对话七项基准上，ReaDy 配合 Qwen3.8-27B 在单张 NVIDIA B200 上实现平均 3.16× 解码加速，较 DSpark 吞吐量平均提升 7.97%、接受长度提升 8.50%。代码已开源。
VASPO（Value-Augmented Self-Distillation Policy Optimization）在 PPO 框架内整合自蒸馏与特权价值估计：critic 从预测续写回报计算 token 级优势，自教师通过有界概率比调制部分正优势。在六个数学推理 benchmark 上，VASPO 在 Qwen3-4B 和 OLMo3-7B 上分别比 PPO 平均准确率提升 2.59 和 1.81 个百分点，并在 Knights and Knaves 上取得评测方法中的最高平均准确率。代码已开源。
INTACT 方法用小型外部编码器在冻结骨干模型上诱导潜在推理，以连续 soft-token 替代自然语言思维链，经知识蒸馏训练后再按答案正确性强化。在 1B 到 8B 的四个冻结骨干上，Llama-3.2-3B 的 GSM8K 从 75.8% 提升至 79.3%，Qwen2.5-3B 从 77.6% 提升至 79.7%，单题端到端延迟降低 19%，并在 3B 和 8B 规模上超过所评测的潜在推理基线。
Zhenhe Wu 在 arXiv 发布 PA1-OPD 方法，在语料前缀的蒸馏基础上加入学生模型采样一步后的教师反馈，扩展被监督的状态同时保留 next-token 预测与语料路径 KD。在两个持续预训练设置中，全覆盖方式在 C4、PG-19 和 Pile 的每个评测检查点上 held-out cross-entropy 均优于 KD；Stage2 中选取学生 surprisal 最高的 10% 根节点，使相对 next-token 训练的 Macro cross-entropy 增益比 KD 提高 48.85%。论文地址 https://arxiv.org/abs/2610.19601v1。
PN-Mix 是一种针对 RoPE 架构 decoder-only LLM 的混合精度 key cache 量化方法，通过 RoPE 通道对的 attention logit 扰动分析识别显著通道对，在 prefill 阶段一次性分配更高精度并在解码全程复用。2.26-bit 平均精度下，其在推理、代码生成和 AIME 基准上达到与 2.32–2.39-bit 先前方法相当或更好的准确率，且可平滑降至 1.5 bits。
arXiv 论文（arXiv:2610.19614）提出将 LLM Agent 轨迹视为动作与环境观测共享嵌入空间中的路径，同一任务的成功与失败 rollout 在该空间中可分离，简单判别器在三个 Agent 基准和三个策略模型上预测 held-out rollout 结果最高达 0.95 AUROC。作者进一步推出基于 transformer 的 Precog-RM，通过元学习使结果预测可在 few-shot 设定下泛化到未见任务和模型，并在轨迹终止前给出置信预测。部署为 GRPO 在 Tau2-Bench 上的早停控制器时，最多削减 47.3% 训练 FLOPs 且性能与基线 GRPO 相当。
推荐理由：论文给出跨三个基准和三个策略模型的 AUROC 数据，并量化了 GRPO 训练最多省 47.3% FLOPs 的收益。
论文提出 DAGFormer，一种由联合训练的拓扑预测器规划跨层连接的 Transformer 语言模型，在标准残差连接之外增加从浅层到深层的直接连接，并按输入 token 控制每条连接强度，与逐层单独设置连接的现有跨层路由架构不同，它一次性规划整个模型的路由。
DGS-WM（Decision-Guided Selective World Modeling）是一种面向语言智能体的策略-世界建模协同训练方法，通过决策引导的观测筛选和置信度自适应加权，仅对具有决策价值的观测单元施加世界建模监督，并与 RL 损失联合优化。在单跳/多跳问答和交互式网页任务等多项 benchmark 上，该方法在不同模型规模和 RL 算法下均取得一致提升，表现优于全观测世界建模方法。
研究在冻结的 Qwen3.5-4B 骨干上训练共享候选答案读取器，统一直接决策与按需可中断推理，通过 benefit gate 启动推理、自然状态触发显式读取、熵规则接受答案并取消生成。在 ProofWriter、LogiQA 2.0 和 ARC-Challenge 共 768 道题上，准确率从直接读取的 70.96% 升至 84.38%；相比 512-token 终端读取提升 7.29 个百分点、平均输出开销仅增 2.25%，相比 1,024-token 终端读取流水线时间下降 46.30%。
BANGLAPLAN 基准发布，包含 1,000 道基于孟加拉国日常生活的约束规划与决策题，覆盖 10 个任务族、4 种语域和 8 种结构化 JSON 答案类型。评测 11 个开源与闭源模型配置显示：GPT-6.1 Sol 达 98.7%，Qwen3.5-27B（thinking）达 80.3%，直答配置最高仅 30.9%，11 个中 7 个低于恒答 infeasible 基线；难题主要降低规划构建准确率，不可行性检测更稳健。
RouteWeaver 是一个统一 LLM 路由框架，将单轮、多轮与 agentic 路由模式整合进单一策略，联合学习模式选择与模式内模型执行。其配套的 COMET-GRPO 训练方法将优势信号解耦到两个决策层级，并引入渐进式探索。在数学、代码、知识、逻辑推理与事实召回评测中平均准确率达 61.4%，较最强基线相对提升 11.03%，并在全部五个领域超越所有对比基线。
arXiv 论文发现 Mamba 在 query-first 检索设置下仍大幅落后于 Transformer，说明瓶颈不止于固定大小循环状态容量。研究显示 Mamba 的 selection gates 足以影响输出，但与查询相关的表征信号随模型深度才逐渐出现，关键层的 gates 尚未对齐该信号，导致检索失败。
arXiv 论文提出 ReSemReason，针对知识图谱生物医学多跳推理中“可达但无效”的问题，即答案可达但证据路径无法支持所需关系组合。该方法在候选发现与证据选择间共享问题诱导的类型化有向关系 schema 分布，并用 ReSemAttn 进行关系条件化的注意力建模。在 BioHopR、PrimeKGQA 和 MedReason 上的实验显示答案排序与答案集质量均有提升。
UC San Diego 等机构在 arXiv 发布 JetSpec++，通过块内自修正、块间前瞻草拟和草拟与验证流水线重叠，将草拟的边际耗时降到接近零。相比自回归解码最高加速 7.45 倍，相比 DSpark 最高 1.54 倍，在 GB200 上单请求达每秒 1,361 token，七个基准平均接受长度 8.94，且保持目标模型输出分布。代码与模型已开放。
推荐理由：论文给出 JetSpec++ 的三个组件和与 DSpark、自回归解码的加速对比数据，读者可据此评估该推测解码方案的适用性。
arXiv 论文 2610.19801 提出 Delta Tokenizer，一个只对会话请求增量部分做分词的 CPU 前端，并支持长请求的多核分段并行编码，输出与参考分词器完全一致。增量路径比 Hugging Face 参考分词器快约 40x，16 核下分段并行比串行快 8.2x、比 LoPT 快 1.6-2.1x；接入 SGLang 后 100K tokens 时中位 TTFT 降低 59%，Agent 会话 P99 TTFT 在负载下降低 9.5x、长请求占满前端时降低 23x。增量路径与快速编码器已在 toktier 仓库开源，分段并行路径、CPU 池调度器和 SGLang 适配器将在同一仓库发布。
推荐理由：论文给出了与 Hugging Face 参考实现和 LoPT 的具体加速对比，以及 SGLang 内的 TTFT 实测数据，可评估该方案的实际收益。
ModelCloud 维护的 GPTQModel 是一个可扩展的 LLM 量化、验证与部署平台，支持 GPTQ、AWQ、ParoQuant、GGUF、FP8、EXL3、QQQ 等方法，覆盖 NVIDIA CUDA、AMD ROCm、华为昇腾、Intel XPU 和 CPU，并集成 Transformers、vLLM 和 SGLang。
GitHub 上的 llm-inference-lab 项目提供一份实验驱动、学习优先的 LLM 推理机制路线图，覆盖从模型文件到分布式推理的性能权衡与验证方法。路线图共 14 天，第 1 天“模型格式与加载”已完成，其余涵盖算子与 kernel 融合、FlashAttention、paged KV cache、量化、投机解码、多 GPU 执行与 prefill/decode 分离等主题，均处于计划状态。
simple_llm 是一个自托管、OpenAI 兼容的 LLM 服务，打包为 Arch Linux Docker 镜像，后端为 llama.cpp 的 llama-server，可在单 GPU 上运行小型本地模型，替换托管 LLM API。支持 CUDA（主）与 Vulkan 两种后端，候选模型为 ≤13B 的 Q8_0 量化版本，如 unsloth/Qwen3.5-9B-GGUF 和 unsloth/gemma-4-12b-it-GGUF，许可证为 GPLv2。
GitHub 仓库 gmyfoxnsw4855 发布论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》的配套代码页，论文提出优化 LLM 跨多任务上下文推理的策略，实验显示在动态环境中适应性更优，目前处于 COAI 2025 审稿中。完整实现代码、benchmark 结果与预训练模型 checkpoint 标记为即将发布。
FSPO（Function-Space Policy Optimization）是一种单策略强化学习框架，将稀疏历史 next-token 分布存为固定时序目标，无需维护常驻教师模型即可实现时序分离，并引入特权分歧校正、可靠性自适应锚定与质量覆盖感知时序记忆。在推理与工具使用 benchmark 上，FSPO 在 5 小时训练预算内平均准确率最高，较最强基线平均提升约 4 个百分点，在 Olmo3-7B-Instruct 上峰值显存从约 70 GB 降至 56 GB。
arXiv 论文提出 Confidence-Guided Credit Correction（C³），一种可插拔的局部信用修正方法，解决仅用结果奖励的多轮智能体强化学习中错误行为仍获正优势的问题。C³ 在优势估计后选择性修正正信用，修正强度由行为策略的置信度自适应控制，不改任务奖励与原信用估计。在多个多轮 benchmark 上，C³ 在基于 critic 与无 critic 的 RL 方法下均提升性能。
论文提出 RuleTrek，一个面向复杂场景的多领域智能体规则推理基准，通过规则图谱构建并增量组合子场景，评估规则识别（RI）、规则推导（RD）与端到端规则推理（E2E）三项能力。对 11 个前沿 LLM 的实验显示，RI 与 RD 最高分仅 62.47% 和 60.43%，E2E 得分在 26.97% 至 55.29% 之间，代码与数据集已公开。
arXiv 预印本研究 LLM 的语言表达上限：提出提示词优化算法，在 benchmark 上比现有算法最高提升 14%，并设计发送方标注、接收方恢复提示词的传输度量。对 8 个领域 1.2k 个概念的测量发现三类概念：可完全表达、未来更强模型可能表达、以及与身份和群体意识绑定而难以表达的概念；人类在 LLM 难以处理的 76% 概念上仍有中到高度一致性，表明表达上限因执行者而异。
研究提出用显式 if--then 规则连接感知、信念与行动，并用 GRPO 训练 Qwen2.5 和 Llama3 模型，在四个 ToM 基准上超越了提示、监督微调和 think reasoning。≥3B 模型生成的规则还可迁移，提升 GPT-4o-mini 的下游表现。
Reddit 用户 /u/NickReese 分享了三台 4x ASRock Radeon AI PRO R9700（32GB）本地推理机的搭建与实测，单机含税运费约 $10,733.91，采用 $127.17 的二手 EPYC 7452 替代 Threadripper，三台共 384GB VRAM，用于其枪械行业信息业务 USA Arms 的数据抽取。推理栈为 vLLM-Radiance 1.0.387（vLLM 0.30.0、ROCm 7.14），每台跑两个 TP=2 引擎运行 Qwen3.8-27B-FP8，FP8 KV cache 加 MTP 8 draft tokens；16 用户 MT-Bench 聚合 484 tok/s，32K 上下文预填充 6,696 tok/s。
推荐理由：作者给出三台 4x R9700 本地推理机的完整 BOM、vLLM 实测吞吐和 FP8 与 MXFP4 的准确率对比，数据可直接用于自建参考。
Reddit 用户 /u/Tx8aker 对 AMD MI350P 与 RTX Pro 6000 (Blackwell) 跑 Qwen3.8-27B 推理对比，称 MI350P 开箱表现极差，经内核与调优优化后性能提升超过 2 倍。在 3k 输入 8 并发、50k 输入 20 并发、200k 单用户三档冷启动测试中，MI350P 输出吞吐分别为 889/130.6/79.8 tok/s，对 RTX Pro 6000 的 596/50.4/45.1 tok/s 达 1.49x/2.59x/1.77x，TTFT 也全面更快；作者指出 MI350P 显存利用率仅解锁 50%，仍有提升空间。
推荐理由：作者实测前先对 MI350P 做了内核调优才跑分，并给出三档输入长度的完整数据，比开箱对比更能反映真实差距。
作者 /u/hhderder 发布 PulsarLM，一个受大脑短期记忆启发的推理引擎，通过定期移除上下文窗口中低注意力的旧 token，使长对话可超出模型训练的上下文上限。在 5090 上跑 Qwen3 8b 达到 prefill 6.7k tok/s、decode 89 tok/s，16 并发批量 decode 为 1.2k tok/s。实现上用自定义 attention kernel 按页累积注意力质量并驱逐低分页，重旋转 RoPE 使位置连续不超限，并缓存上下文快照避免重复 prefill（会多占 RAM，可选持久化）。
vLLM 将 confidence scoring 扩展到所有基于草稿模型的投机类型，通过在线拟合 logistic 回归、从草稿模型 logits 推导 logit(q_max) 特征来预测目标模型的接受概率，作为 Adaptive Verification 的置信分，使 EAGLE、MTP 等草稿模型无需置信头即可使用该机制。