时间同步端到端 ASR 模型的搜索空间复杂度与效率系统性比较
一项发表于 IEEE SLT 2026 的研究系统比较了 CTC 与 neural transducer 端到端 ASR 模型在不同剪枝策略和语言模型配置下的搜索空间复杂度与效率。研究发现这些模型多数时间只需小搜索空间，但在不确定时段假设数会出现临时峰值；基于分数的剪枝可动态适应模型不确定性，显著降低实时率（RTF）。结果指出了低固定 beam 剪枝的局限，并为端到端 ASR 的高效搜索提供了实践指南。
#推理引擎
新闻、仓库与研究，按时间排列。
arXiv · cs.CLAI 评分2525 arXiv · cs.CLAI 评分4848 Cola2：连续语义压缩与平衡离散生成协同的层级语言建模
研究者提出层级语言生成框架 Cola2，将连续语义压缩与离散文本生成解耦并协同优化，通过无辅助损失的负反馈控制压缩率，结合重建与生成监督学习紧凑潜在表示。约 2100 亿 token 训练量的五项下游任务实验显示其具备竞争力且未饱和的扩展性；在 3460.3 亿源 token 下，未收敛 checkpoint 在八项任务上平均达 60.10，并在 HellaSwag 和 StoryCloze 上超过 Llama-3-8B，而后者预训练预算超过其 43 倍。
arXiv · cs.CLAI 评分2828 面向低资源黏着语巴什基尔语的大语言模型参数高效适配：语料库、数据集与可复现基准
一项研究发布巴什基尔语开源资源套件与适配方法系统基准，含 71,567 篇文档、46.9M tokens 的网页语料及三个文本分类标注数据集。实验覆盖 82M-8B 的八种架构，比较全量微调、QLoRA、in-context learning 和持续预训练（CPT）：QLoRA 在二分类上优于编码器微调，YandexGPT-5-Lite-8B 加 CPT 达 macro-F1 0.748，高于 XLM-R 的 0.653 和 mBERT 的 0.650。CPT 效果因模型而异，西里尔 tokeniser 更优，且 LLM 评审无法复现母语者的语言正确性评分，母语评测仍不可少。
arXiv · cs.CLAI 评分4848 SQuAT：球面格点向量量化感知训练
论文提出 SQuAT，一种面向十亿参数 LLM 的形状-增益向量量化感知训练（VQ-QAT）方法，用分离的 STE 对方向和增益分别更新，方向通过 E8 球面码本量化。其分布式最近邻分配方案将 VQ-QAT 训练时间缩短 12.8 倍，并扩展到 10B token。在 instruction-tuned LLaMA-3.2-1B/3B、Qwen3-4B 和 base Qwen3-1.7B 上，SQuAT 在相同码本和初始化下始终优于标准 VQ-QAT STE，达到 SOTA VQ-QAT 精度。
arXiv · cs.CLAI 评分3333 Multi-Token Prediction 与替代 Tokenization 助力语言模型大规模学习潜在多跳图搜索
一项 arXiv 研究指出，语言模型难以在图上从起点 s 生成到终点 t 的最短路径，原因在于监督信号与 tokenization 两方面。作者从理论和实验上证明多-token 预测（MTP）有效且其收益与图拓扑无关，并引入替代 tokenization，证明两者正交。结合这些方法，模型突破了此前工作的规模瓶颈，能在远超以往限制的图规模上稳定求解该任务。
arXiv · cs.CLAI 评分2626 对话系统观点选择的立场粒度研究：概念级立场向量如何影响用户接触不同观点
一项对话系统研究用 bandit 策略控制可选观点与用户的距离，并比较标量立场打分与 Perspectivized Stance Vectors（将立场拆分到概念层面）。被试间实验（N=63）显示，概念级立场带来更多样的观点曝光和更广的立场覆盖，但不改变用户论证观点的深度或复述准确度。分析还发现，用户在“某一方未表态”的概念上复述观点最不准确，而非双方分歧的概念上。
arXiv · cs.AIAI 评分4646 同一实体、不同文字：诊断语言模型跨文字实体匹配失败
一项 arXiv 研究用 601 对天城文-拉丁文审计身份对测试发现，Qwen2.5-7B 在马拉地语提示下，同一人名判断准确率从拉丁文的 35.1% 降至天城文的 8.5%。在 374 对马拉雅拉姆语对上复现了该效应，0.925 AUROC，且标量校准可恢复 87% 的模型-探针平衡准确率差距。对 Qwen 中间层的干预将马拉地语同一人准确率从 6.5% 提升至 33.5%，不同人准确率保持 98.5%。
arXiv · cs.AIAI 评分4343 深度增长与循环结构如何塑造语言模型的上下文学习能力
一项研究分析了深度增长与循环结构如何促进语言模型的上下文学习，涵盖参数量最高 3B 的预训练模型与受控任务。实验显示此类模型比全深度稠密参考模型更依赖上下文信息，能更早习得 ICL 并在权重学习中更牢固地保留该能力。注意力追踪与消融实验表明，深度增长使早期 induction heads 跨层传播，模型更依赖 induction 排名靠前的注意力头支持 few-shot 表现。
arXiv · cs.AIAI 评分3636 面向编码智能体的自适应技能粒度：运行时路由与宏到微恢复
一篇 arXiv 论文提出 Adaptive Skill Granularity 框架，将编码智能体的技能粒度作为基于任务结构、执行状态和宏技能失败的动作抽象策略来控制，系统由基于特征的粒度控制器和有限状态恢复执行器组成。在采用验证器定义成功、总成本及宏采用率、失败恢复、路由匹配等过程指标的确定性编码智能体协议中，运行时路由与显式的宏到微恢复比固定粒度执行更稳健，可恢复固定执行无法解决的受控宏失败。作者据此主张技能库应被视为可控、可验证、可恢复的执行抽象。
arXiv · cs.AIAI 评分4040 训练小语言模型实现可迁移的工具选择
arXiv 一项研究显示，经强化学习后训练的 Qwen3-8B 小型开源模型可完成以往依赖 Claude、ChatGPT 等专有模型驱动的工具选择功能，在 ToolBench 上超越 Llama-4-Maverick（402B）。该模型可直接迁移到不同检索器，并能泛化到不同领域的新工具库。
arXiv · cs.AIAI 评分2222 SABLE：面向高维潜空间、低评测预算的贝叶斯优化方法
研究者提出 SABLE，一种针对高维生成模型潜空间、评测预算有限的贝叶斯优化方法。它用贝叶斯仿射代理模型处理预测与采集，通过有限区间调度控制 off-span 范数避免欠探索，并用重压缩方案把信息压缩为 O(M) 伪观测。在合成基准与潜空间优化任务上，SABLE 实现高样本效率，决策时间保持在几十毫秒，大预算下比现有方法快数个数量级。
arXiv · cs.AIAI 评分4949 扩散语言模型中的可学习 unmasking 策略如何影响速度与精度权衡：一项受控研究
一项受控研究系统考察了扩散语言模型的可学习 unmasking 策略，发现用最终输出匹配做标签在低 NFE 下过于宽松，隐藏状态单独较弱但可补充置信度，约 10% 的 NFE 减少即可抵消最高 7.5M 参数策略的开销。研究在 LLaDA-8B-Instruct 上训练的 856K 参数策略取得 GSM8K 上最佳精度—NFE 前沿与最高吞吐，在 MATH-500 和 HumanEval 中等目标下具竞争力，并基本可迁移至 Dream-7B-Instruct。
arXiv · cs.AIAI 评分4141 开源大模型能否考上西班牙 MIR 住院医师考试：不确定性、推理与图像使用研究
一项研究用西班牙 MIR 住院医师考试规则评测了 4 个 8B 至 27B 参数的开源模型，共 1,552 道题。三个较大模型答完全部题目可排进约前 600 至 3,000 名，41 至 43 个专业仍可匹配。但医学微调虽降低过度自信却牺牲准确率，且替换或删除图像不影响成绩，13-38% 的正确答案因临床不合理理由排除干扰项。
arXiv · cs.AIAI 评分4040 CausalCoT：通过上下文隔离缓解注意力泄漏的因果链式推理框架
研究者提出 CausalCoT 推理框架，将问题分解为有向无环图中的原子子问题，每个节点仅在只含直接因果父节点的隔离上下文中求值，以消除注意力对无关上下文的泄漏。在多个推理 benchmark 上，CausalCoT 在保持有竞争力的预测性能的同时，中间推理步骤的因果敏感性平均提升 12 个百分点、最高提升 21 个百分点。其结构化依赖图还支持测试时干预，使局部修正可预测地传播到下游推理。
arXiv · cs.AI精选AI 评分5858 arXiv 论文提出用低比特精度压缩语言模型 n-gram 嵌入表
Stephen Chung 在 arXiv 发布论文，研究以低精度存储语言模型 n-gram 嵌入表以降低内存开销。在 nanochat、Llama、GPT-2 系列从零训练的模型上，4-bit 表节省约 75% 表内存，同时保留加表带来的验证损失改善的 99% 以上；对 DeepSeek-V4.1-Flash 和 Qwen3.8-Flash-Next 节省 47-55% 表内存，困惑度增加低于 1.2%。更低位宽性能下降更大，但短时微调可恢复大部分损失，将省出的内存换成更大表还能超越原全精度表的性能。
推荐理由：论文系统比较了不同量化和位宽分配方案，给出从零训练与现有大模型两组数据，可帮助读者评估低比特 n-gram 表的实际收益。
arXiv · cs.AIAI 评分3636 Direct Pass@$k$ Optimization 用于思考剪枝：在测试时推理中平衡质量与多样性
一项 arXiv 研究提出通过直接优化 pass@$k$ 来剪枝测试时推理候选解：所选候选池在续写至完成后最大化至少一个部分解得到正确答案的概率，从而同时奖励高质量部分解并惩罚冗余，使质量与多样性由目标函数自然平衡。在八个开源权重推理模型上，该方法优于现有基于质量和多样性的剪枝策略，且当保留中等数量部分解时收益最明显。
arXiv · cs.CLAI 评分2929 81 种语言中的语言相对论研究：语义在哪里趋同、在哪里分化
一项 arXiv 研究比较了 81 种语言中 196 个基本概念的关系结构，使用两个多语言模型的词嵌入进行量化。结果显示，社会文化语义的跨语言一致性高于自然与运动语义；社会文化领域内的差异随地理距离增大，亲缘更远的语言在所有领域差异都更大。
arXiv · cs.CLAI 评分1212 MixJudge：面向人声混音的语言可查询音频评审模型
研究者构建了覆盖 11 类人声混音问题、含多种严重程度的教学式课程数据，训练出语言可查询的音频评审模型 MixJudge。该模型能检索混音问题、区分相反问题并对问题严重程度排序。在菜单选择任务中，MixJudge 往往偏好声学上更接近留出专业版本的处理方案，显示显式混音判断可支持比较与下游混音决策。
arXiv · cs.CLAI 评分3434 MCPD：在策略自蒸馏中降低对参考答案的敏感性
arXiv 论文提出 Monte Carlo Privileged Distillation（MCPD），针对在策略自蒸馏（OPSD）中单一完整参考答案导致的"参考诱导目标不稳定"问题。MCPD 将特权上下文建模为多个部分参考视图的分布，对多个视图下的教师 next-token 分布取平均，等价于最小化期望 KL 散度。在数学与科学推理 benchmark 上，MCPD 持续优于完整参考条件的 OPSD。
arXiv · cs.CL精选AI 评分5555 论文追溯推理模型中 wait 标记的来源：继承自数据而非 RL 发明
arXiv 论文 2610.30882 通过频率、位置、形式与用法等无标注指标及错误注入实验，追溯推理模型中 {wait} 标记的来源，发现 zero-RL 几乎不会创造该词，在缺乏该词的 base 上 RL 大幅提升 MATH-500 准确率而 {wait} 几乎不出现。该标记主要由训练数据引入，如 OLMo-3 的 mid-training 和基于推理轨迹的微调；base 已有该标记时，OLMo-3 与 MiMo 的 RL-Zero 配方会放大其使用，而无 KL 的 GRPO 不会。论文还指出标记频率本身不能指示 RL 引发的推理，并警示 LLM-as-a-judge 修订指标可能逆转人工标注趋势。
推荐理由：论文用无标注指标和错误注入实验区分了 RL 与训练数据对 wait 标记的来源，方法可迁移到其他推理行为的溯源分析。
arXiv · cs.CLAI 评分2828 追踪 LLM 推理中生成 UML 类图的幻觉：实证分类与缓解研究
arXiv 一项研究提出包含 Prompt Faithfulness、Code Faithfulness 和 Reasoning Quality 三个维度、11 个子类的幻觉分类法，基于 60 条人工标注与 120 条 DeepSeek-R1 推理轨迹及 20 条 DeepSeek-V4-Pro 轨迹。在 13 个 Golden UML ModelSet 案例上，向 Qwen3 系列模型的提示词中加入两类约束使平均 F1 提升 4.0 个百分点，事后 Code Faithfulness 审查则无一致收益。
arXiv · cs.CLAI 评分4141 封闭集决策用紧凑编码器：从 17M 到 1B 参数，逐选项读取优于联合读取
这项研究探究了封闭集决策（如工具选择）所需编码器的最小规模及读取方式，发现 3200 万参数下逐选项打分比联合读取高 5.8 个机会校正分（约匹配训练算力时高 2.8），且不受选项顺序影响，而联合模型重排选项会改变 12-23% 的答案。发布的 6 个编码器中，6800 万和 1.5 亿参数模型在 209 个 System1-Arena 任务上分别超过 4.35 亿参数 DeBERTa-v3 零样本分类器 4.9 和 5.9 个准确率点，最小模型中位延迟仅 14 毫秒，对比 728 毫秒。
arXiv · cs.CLAI 评分5151 arXiv 论文对五种推理时上下文增强方法做统一评测
一篇 arXiv 论文提出统一评测框架，在 7 个模型和 3 个数据集上比较五种推理时上下文增强方法。研究发现准确率提升不总是真实改进，而更像无方向扰动，方法可能修正部分预测的同时破坏另一些预测，尤其是仅增加计算时间的填充 token 类方法。
arXiv · cs.CLAI 评分4747 RIFT：面向草稿模型的 KV cache 压缩方法与互补可压缩性训练
arXiv 论文提出 RIFT，一组基于选择的 KV cache 压缩策略，用于缓解推测解码中随输出变长产生的 decode staleness 问题，平衡 prefill 信息与近期生成 token，并引入自适应 KV 刷新与基于稀疏注意力掩码的可压缩性训练。经压缩训练后，Qwen3.5-4B 为 Qwen3.5-122B 起草时，在 32K token 输入、4K token 输出和 8K token KV cache 预算下保留超过 98% 的全缓存接受长度。
arXiv · cs.AIAI 评分2323 用 TimesFM 时间序列基础模型零样本预测土壤水分与温度
研究者在半干旱恢复区 27 个传感器站上，零样本评估了 500M 参数的 TimesFM 1 时间序列基础模型，预测 5 cm 与 30 cm 土壤水分及围栏温度，提前期 1 h 至 168 h。结果显示，TimesFM 在日内提前期上比 persistence、seasonal-naive、7-day climatology 等规则基线好 21-76%，超过一天后反而差 6-79%；带完整历史和天气协变量的 CatBoost 基线整体未获胜，部分归因于短期部署的冷启动效应。研究还量化了在普通 CPU 硬件上零样本预测的推理成本。
arXiv · cs.AIAI 评分2323 约束推理与大语言模型联手：为基于优化的真实应用提供对比性解释
研究者提出一种结合约束推理与大语言模型（LLM）的新方法，为以混合整数规划（MIP）编码的优化决策支持系统生成对比性解释。约束推理先提取约束间语义与关系的「推理图」，再作为输入交给 LLM。真实排程领域的结果显示，该方法让 LLM 生成的自然语言解释包含更多相关理由，同时减少了错误。
arXiv · cs.AIAI 评分4747 SetCommit：面向少步扩散语言模型解码的协同 token 提交方法
SetCommit 是一种免训练的协同并行 token 提交方法，通过平衡 token 可靠性与局部联合提交风险来选择提交集合，并执行预算中性的局部交换以替换脆弱的早期提交。在 LLaDA-8B 和 Dream-7B 上的 GSM8K、MATH-500、MBPP、HumanEval 实验显示，32 次模型评估下准确率/pass@1 较原生解码最高提升 7.4 个百分点，几何平均增量加速比为 1.44 至 1.74×，代码已开源。
arXiv · cs.AIAI 评分2727 更多元数据反而误导？LLM 生成博物馆文物描述的字段级接地研究
一项被 EMNLP 2026 Findings 接收的研究通过两阶段框架考察元数据构成如何影响 LLM 生成文物描述。结果显示元数据数量本身不决定生成行为，字段类型决定模型是接地、省略还是推断信息，而图像既能支持视觉接地也会增加无依据解读。研究主张 data-to-text 评估应考察字段与论断级支持，而非仅看输入覆盖率或参考相似度。
GitHub · 去对齐工具与仓库AI 评分5454 apple-silicon-mlx-native：Apple Silicon 纯 MLX 本地环境工具包
gibboda 在 GitHub 发布 apple-silicon-mlx-native，一套可复现的工具包，用于在 Apple Silicon 上安装、重建、验证和运行纯 MLX 原生机器学习环境，核心组件为 mlx、mlx-lm、mlx-audio，图像与视频工具 mflux、mlx-video 为可选安装，不依赖 Ollama、llama.cpp 或 PyTorch/MPS。
GitHub · 灵魂体仓库AI 评分3333 Deposon：让 LLM 多步推理可机器复核的散射层研究项目开源
Deposon 是一个让多步 LLM 推理可机器复核的散射层研究项目，代码已在 GitHub 开源，MIT 许可，前两条主线 V1（脑图）与 V2（博弈论解释）已发表于 arXiv:2609.09001。推理路径经三通道散射满足 T+R+A=1，逐路径审计偏差 ≤ 2.2e-16。论文还如实报告了负结果：真实基准上该层与 6 关键词规则过滤无法区分（GSM8K 0.87 vs 0.85），三条动力学等价命题在预登记协议下被证伪。
Reddit · r/LocalLLaMAAI 评分1515 LocalLLaMA 网友讨论：如何利用 RT cores 提升推理效果
Reddit r/LocalLLaMA 上有用户发帖询问大家尝试过哪些利用 GPU 的 RT cores 改善大模型推理的方法。发帖者称在硬件价格持续上涨的背景下，希望更充分地利用现有芯片，欢迎分享想法或实验结果。
GitHub · 去对齐工具与仓库精选AI 评分6464 brazen 发布：统一各 LLM 提供商协议的 Rust 命令行适配器 bz
brazen 仓库发布 bz 命令，一个无状态的 Rust 单二进制适配器，把 OpenAI chat/completions、OpenAI responses、Anthropic messages、Google generative-ai、Ollama 等协议归一化，管道输入请求、流式输出规范响应。支持 API key 与 OAuth/SSO（内置 openai-chatgpt 登录）、模型前缀路由、bz --serve 双协议反向代理、token 统计与 cache_key 提示缓存分支标识；通过 cargo install brazen 安装，也可下载预编译二进制。
推荐理由：仓库以配置行而非代码分支接入新厂商，并给出跨五家协议的归一化事件流测试，值得做 Agent 底层适配时参考。
Reddit · r/LocalLLaMA精选AI 评分5959 Swift-1.5-Qwen3.8-27B 推出 hipfire MQ4 量化版，7900 XT 上端到端约 2.2 倍于 Q4_K_S GGUF
Reddit 用户 /u/Queasy_Asparagus69 将 Swift-1.5 微调版 Qwen3.8-27B 量化为 hipfire 的 MQ4 格式并附带 MTP 头用于投机解码，目标是让 AMD 用户获得比 llama.cpp 更快的速度。在 RX 7900 XT 20GB、ROCm 7.1 环境下，Prefill 快约 1.4–1.85 倍，16K 上下文约 1100 tok/s（llama.cpp 约 700）；带 MTP 的真实 prompt 解码 36.5 tok/s（τ≈1.94），16–49K 上下文为 52–59 tok/s。六个约 10–20K token 的真实 Rust 编码任务全套耗时 237 秒，对 llama.cpp 的 530 秒，端到端快 2.24 倍。
推荐理由：作者在同一块 7900 XT 上用真实 Rust 任务给出与 llama.cpp 的逐项速度对比，数据足够具体可复现。
Hugging Face · 趋势模型精选AI 评分6565 
KRAFTON 发布 Raon-1 mini preview 开源模型，30B-A4B MoE 架构，Apache 2.0 开源
KRAFTON 从零训练的 Raon-1 mini preview 发布，为 30B-A4B（28.8B 总参数、每 token 激活 4.3B）MoE 模型，采用 Raon Delta Attention 与 Raon-mHC 的混合注意力架构，原生支持 262,144 token 上下文，以 Apache 2.0 许可开源。主打韩语对话与 Agent 任务，支持 Hermes Agent、Pi 和 OpenCode 工具调用；官方基准显示其在 IFBench、Chatbot Korean 等项目领先对比 MoE 模型。
推荐理由：模型卡给出了与其他 MoE 和稠密模型的基准对比、架构细节和完整本地部署方案，可据此评估其真实定位。
AIHOT · 精选AI 评分2323 OpenAI 正式发布 Decisions API，面向低延迟低成本小决策
OpenAI 宣布基于 GPT-6 Luna 的 Decisions API 正式可用，面向分类、路由、评分等有界答案问题。该 API 速度最高比通过 Responses API 使用 GPT-6 Luna 快 10x，主打低延迟、低成本的小决策场景。
GitHub · 去对齐工具与仓库AI 评分5454 drakarah/faster-llm-poc：Gemma 4 与 Qwen3.5-4B 在 Edge-LLM 上的推理优化实验集
drakarah 开源 faster-llm-poc 仓库，系统记录 Edge-LLM 引擎在 Gemma 4 与 Qwen3.5-4B 上的一系列推理优化实验及实测数据。
Reddit · r/LocalLLaMAAI 评分2020 
Xyntetik-Runner 追求速度是否走错了方向？FP32 精度与保真度之辩
Xyntetik-Runner 开发者发帖求助：该项目坚持贴近原始模型实现的数值保真度和可复现推理，在保真度上多数模型优于 Llama，但 CUDA 上速度仍明显落后。1.5.0 版本加入了 tensor-core GEMM 路径、tiled attention、CUDA graphs、MoE 优化和量化内核改进，后续修正版将在几天内发布。开发者询问 FP32 高精度是否值得保留。
Reddit · r/LocalLLaMA精选AI 评分6262 
llama.cpp PR #29864 重构 Intel XMX 矩阵引擎，B70 投机解码速度大幅提升
/u/nickm_27 实测 ggml-org/llama.cpp 的 PR #29864 重构 Intel XMX 矩阵引擎后，B70 在 SYCL 下投机解码速度大幅提升，测试模型为 Muse Glimmer Q6_K (30B) 搭配 DFlash2。9 项任务总耗时从 46.86 秒降至 26.68 秒，各任务 tok/s 普遍从约 36-53 提升到约 53-88；作者说明因 token 验证成本显著降低而调大了 n-max，接受率从 0.7845 降到 0.363 属预期现象。
推荐理由：作者实测了 llama.cpp 重构 Intel XMX 矩阵引擎后 B70 的投机解码速度，前后总耗时从 46.86 秒降到 26.68 秒，数据完整可复现。
Reddit · r/LocalLLaMAAI 评分5050 
Muse Spark 816B 在 10× A40 上跑通：TensorSharp 与 llama.cpp 多 GPU 推理对比
开源 .NET 推理引擎 TensorSharp 在 10× NVIDIA A40 上运行 Muse Spark 816B（42B 激活参数，Unsloth UD-IQ3_XXS 量化，约 316 GiB 权重），并与 llama.cpp 对比。张量并行下 TensorSharp 达 22.6 tok/s 解码、4 并发 45.7 tok/s，层切分下 4K prefill 达 1346.8 tok/s，比 llama.cpp 快 2.07×；层切分 prefill 吞吐比张量并行高 4.6×。质量对比中 Top-1 一致率约 98.8%，功能检查层切分 13/14、张量并行 14/14 通过。
Reddit · r/LocalLLaMAAI 评分4646 Gemini 4 Argon 与 Claude Sonnet 5.5 移除 temperature 采样控制，社区质疑确定性影响
Gemini 4 Argon 与 Claude Sonnet 5.5 已实际移除采样控制：Sonnet 5.5 对非默认 temperature 或 top_p 直接返回 400 错误，Gemini 4 Argon 接受参数但静默忽略。作者认为官方以“推理模型”解释，但大量依赖调低 temperature 的生产流程会失效。作者正用 200 条抽取输入各跑 20 次测试字节级输出一致性，本地 Qwen 在 temp 0 下接近完全一致。