跳到正文
10月16日周五
  1. Reddit · r/LocalLLaMA47

    Stanford、Together AI、UIUC 与 Meta 论文提出 Hybrid Reasoning Agents:隐藏内部推理更快更省

    Stanford、Together AI、UIUC 与 Meta 的论文提出 Hybrid Reasoning Agents,模型大部分推理在隐藏内部空间进行,仅在调用工具或给出最终答案时使用普通文本。在数学、科学、医学等多项测试中成绩约高 10%,token 用量减半、速度快一倍、成本更低。该方法是对现有词空间推理 LLM 的适配,建议仅在信任模型时使用。

  2. arXiv · cs.AI30

    通过学习的潜空间多表表示迈向 Prior-Data Fitted 关系模型

    研究者在大量合成关系数据库上预训练基于消息传递的图关系基础模型 Griffin,将编码器潜表示输入冻结的 in-context 预测器,不在目标任务上训练任何组件。在 16 个真实世界关系分类任务、五组随机种子评估中,从 schema 引导过渡到 schema 无关的纯合成课程学习取得最强的冻结 in-context 性能,超过仅用真实数据预训练及各种无序单阶段混合方案,且在真实数据预训练后追加该课程可获得整体最佳编码器。结果表明 PFN 式合成预训练可迁移到基于图的关系基础模型。

  3. arXiv · cs.CL28

    ParetoChat:一个基于 LLM 的交互式多目标优化界面

    研究者提出 ParetoChat,一个基于 LLM 的专家智能体界面,用于交互式多目标优化,可将自然语言输入转换为结构化标量化参数并调用优化系统。仿真研究以基于 LLM 的决策者智能体为基准,与 DESDEO 中的 reference-point 和 NIMBUS 方法对比,在多目标二进制背包和集合划分实例上验证了其能高效引导搜索以匹配用户偏好。

  4. arXiv · cs.AI36

    错误截断事后蒸馏:面向智能体 RL 的事后蒸馏新方法

    arXiv 论文提出错误截断事后蒸馏方法,解决轨迹级技能蒸馏与 GRPO 结合时错误动作后监督与当前状态失配的问题。该方法按轨迹结果与错误边界路由两类事后技能:Positive skills 强化成功轨迹及错误前决策,Negative skills 针对关键错误进行修正,错误后缀则仅由 GRPO 优化。实验显示其在任务表现与细粒度 credit 分配上有竞争力。

  5. Hugging Face · 趋势模型64

    ornith-ai 发布端到端自我改进的 Ornith-1.5-122B 开源模型

    ornith-ai 发布 Ornith-1.5-122B,一个 122B MoE 模型,将 Ornith-1.0 的自我改进循环扩展到联合优化任务生成、scaffold 构建和解题 rollout,通过强化学习持续生成训练任务并改进策略。模型支持 262,144 tokens 上下文(YaRN 缩放后约 1M),可单张 80GB GPU 部署,并提供量化 Mobile 变体。基准中 SWE-bench Verified(non-hack)84.5、TerminalBench 2.1 为 81.2,评测采用防 reward hacking 措施并以 Claude Opus 作为 judge。

    推荐理由:模型卡同时给出多基准成绩与防 reward hacking 的评测细节,读者可对照同参数量级模型比较编码与智能体表现。

  6. Reddit · r/LocalLLaMA22

    开发者开源 Intel GPU Vulkan 版 LocalLLaMA 升级:ingestion 提速 2 倍、推理快 60%

    一位开发者为 LocalLLaMA 的 Vulkan 与 OpenVINO 分支发布多项升级:部分路径 ingestion 速度翻倍、推理快 60% 以上,并显著降低初始加载的内存占用、修复损坏的推理路径。升级已在 13 代 Intel 集显和 B10 上测试,面向笔记本 CPU 与 A303B 等模型;作者因上游 backlog 不打算合并,正征求以 fork 还是独立推理引擎形式发布及合作建议。

  7. arXiv · cs.CL42

    Prism Attention:用于 LLM 高效推理的提案-精化索引共享机制

    研究者提出 Prism Attention,一种提案-精化的稀疏注意力框架,用粗到细策略替代跨层稀疏索引的静态复用,兼顾层间适配性与共享效率。该方法在推理与长上下文基准上达到主流稀疏注意力方法的 SOTA 性能,并在 128K 上下文长度下实现相对 FlashAttention 3.4× 的端到端解码加速。

  8. arXiv · cs.CL17

    识别 Atari 与判断 Sente:面向围棋语言模型 Agent 的受控评测任务

    研究者构建了一个围绕围棋术语 atari 及其与 sente 关系的受控评测集,考察模型在局部棋盘变化下的术语识别与不同战略条件下的走子评估。团队对围棋语言模型 LoGos 进行术语与解说监督的微调后测试,发现其难以识别 atari 关系变化并评估其战略含义,术语预测关联的走子偏好甚至与参考评估相矛盾。

  9. Reddit · r/LocalLLaMA46

    Drama3 登陆 audio.cpp:RTX 5090 上最高 5 倍实时速度,8 GB VRAM 内可跑 2 倍实时

    Drama3 现已获得 audio.cpp 支持,在 RTX 5090(Q4_k)上全速运行最高可达 5 倍实时速度,采用 CPU weight offload 分级释放模式时低于 8 GB VRAM 也能达到约 2 倍实时速度(RTF 0.484)。该模型还支持 Vulkan 和 Metal,目前仍存在多说话人生成出现异常静音、Vulkan 触发 token 上限等问题,需更多迭代才会进入正式版本,社区贡献者欢迎参与优化。

  10. arXiv · cs.CL34

    动量、评论基调与盈利意外如何影响 LLM 金融预测:一项输入依赖度实验

    一项 arXiv 研究通过合成财报 announcement 独立操纵 20 日动量、非信息性评论基调与 EPS 是否超出共识,考察大语言模型金融预测究竟依赖哪些输入。来自四个模型族的 6 个 instruction/chat checkpoint(基础参数 0.49-7.61B),每个在 Q8_0 直答协议下接受 2,016 条提示词。结果显示:6 个模型中有 5 个的有符号基调对比幅度超过 EPS,5 个模型动量超过 EPS,主 EPS 对比范围为 -0.19 至 86.80 个百分点,自然词数值诊断准确率为 51.0-95.8%;研究测的是输入依赖与数值识别,不确立内部推理机制或实际收益可预测性。

  11. arXiv · cs.CL47

    隐状态探针定位推理失败的有效性研究

    一项 arXiv 研究测试了 4B 和 8B 推理模型的隐状态探针能否区分三类推理失败并定位失败步骤。在 8B 的错误轨迹上,置信度探针漏检 81% 的单步不可恢复案例和 47% 的重试可成功案例;探针的失败类型排序取决于训练设计。两个规模下,没有任何探针定位失败步骤的准确率超过仅基于轨迹长度的规则。

  12. arXiv · cs.CL46

    面向字节级模型的新颖性分块:从压缩视角看算力应花在文本新增处

    研究提出 novelty patching,借鉴 LZ77 式压缩思路,让 Byte Latent Transformer(BLT)等字节级模型在即将出现不重复内容处开启新 patch,替代基于下一字节熵的分块规则。在 1.9 GB 数学语料上从头训练的 BLT 风格模型中,该方法在 12M 参数时将最终答案准确率从 47% 提升到 72%,50M 参数时计算结果准确率从 21% 升至 57%、最终答案从 60% 升至 90%;该规则只需在前两字节上拟合查找表,秒级完成且无需标签。在散文、代码等数学之外场景优势缩小。

  13. arXiv · cs.CL19

    去碎片化 Nawatl 神经机器翻译:面向 Masewalkopa 变体的单变体特化

    一项 arXiv 研究提出“变体碎片化”问题,指出混合纳瓦特语(Nawatl)多种变体的语料会生成不属于任何语言社区的人为语域。研究基于 70,000 双语对多变体基础,用 2,665 平行对和 192 句长者转写句子,将 mT5-large 特化为 Santa Ana Tlacotenco 的 Masewalkopa(nhn)变体,所得 LoRA-v9c-b 模型取得 58.46 dev chrF++;有限状态分析器将未分析表层形式从 82.0% 降至 19.9%,CTranslate2 int8 量化把 CPU 延迟从 137.5 秒降至 1.8-2.6 秒,支持低成本 Cloud Run 部署。

  14. arXiv · cs.CL41

    EMO:交替上下文优化与 logit 引导的闭环测试时计算框架

    EMO 是一个免训练的闭环测试时计算框架,借鉴 EM 思想交替进行 E 步上下文估计和 M 步分布引导。在 8 个模型、6 个基准的 greedy decoding 测试中,EMO 在 40 组设置中的 39 组超过 zero-shot 基线,平均提升 9.10 个百分点;与仅上下文优化的 TextGrad 相比,使用相同 judge 平均再提升 1.53 个百分点,在 MMLU-Pro 上跨模型保持一致增益。

  15. arXiv · cs.CL34

    CLUE:挖掘社交语境以提升语用理解

    研究者提出 CLUE,一个结合监督式证据推理与 GRPO(以 Grounded Information Utilization 为奖励)的两阶段训练管线,让模型自主发现对话中支持语用理解的关键线索。相比基础 Qwen,CLUE 在平均加权 F1 上域内相对提升 17.3%、域外提升 9.3%,且推理 token 平均减少超过 80%。人类评估显示其解释更多锚定于具体对话内容,引用证据与人类所选语境更一致。

  16. arXiv · cs.CL52

    arXiv 论文诊断中文 LLM 滥用"不是X,而是Y"句式的语用恰当性问题

    arXiv 论文 2610.22249 通过中文纠偏构式"不是X,而是Y"诊断 LLM 写作腔调,提出基于 Gricean 语用学的决策树,将用法分为实质性、可选性和缺陷性三类。研究发现五个商业模型使用该构式的密度是人类参照的 2.5 至 9.2 倍;307 个标注用例中仅 1.30% 有缺陷,但 52.8% 属于正确却不需要的可选用法。多个奖励模型即使对质量匹配的变体也偏爱该构式,LLM 裁判在语境不允许时仍偏爱它,监督微调和偏好优化都会推高开源模型中的使用频率。

    推荐理由:论文把"不是X而是Y"的滥用归因于模型不知何时该用,给出了从正确性转向语用恰当性的诊断框架,可迁移到其他模型腔分析。

  17. arXiv · cs.CL31

    Grid-Bench:LLM 能预测离散世界如何变化吗?

    研究者推出 Grid-Bench,一个可执行基准,用二维、三维和四维网格上的八类操作测试大语言模型预测离散空间状态变化的能力。对六款 LLM 的评测显示,随着事件历史变长,完整状态准确率急剧下降,单事件表现相近的模型差异明显,且 Exact-match 相似的模型在错误单元格数量上也存在显著差异。

  18. arXiv · cs.CL39

    OmniVerifier-C1:面向规则约束生成式世界建模的分解式分级验证器

    arXiv 论文 OmniVerifier-C1 提出一种分解式分级视觉验证器,可将复杂提示或环境规则自动分解为细粒度组件并给出逐点评分,替代传统 True/False 二元判断。训练采用 Decoupled RL 策略,联合优化子问题级二元判断与全局对齐评分,实验显示其在文生图场景显著优于二元验证器,并在 Maze、Sudoku 等结构化世界建模任务上验证有效。论文还从理论上证明有真值图像时成对验证比逐点验证更准确。

  19. arXiv · cs.AI27

    SCOPED:面向统一视觉语言模型的技能解耦在线专家蒸馏方法

    SCOPED(Skill-Decoupled On-Policy Expert Distillation)是一种面向视觉语言模型的训练方法,先分别训练能力专属专家并通过奖励引导反思提取显式技能,再进行在线蒸馏,让统一模型在推理时无需显式技能也能内化程序性知识。在八个多模态 benchmark 上,SCOPED 持续优于骨干模型和混合能力 RL。分析还发现联合优化存在能力间干扰,技能增强有助于专家轨迹更一致、更关注任务相关视觉证据。

  20. arXiv · cs.AI60

    免训练 on-policy 蒸馏方法提出,仅用前向传播即可合并专家模型

    一篇 arXiv 论文提出 training-free on-policy 蒸馏:不用训练,仅通过前向传播就能把多个单独微调的专家模型能力合并到一个学生模型中,合并后平均精度高于任一专家。当专家共享同一 base 模型时,蒸馏有精确的逐层解,等价于一个最小二乘问题,只需几百条 rollout 的前向计算即可得到二阶矩。去除重复循环截断的回答后,在 AIME25 上将合并模型从 task arithmetic 水平提升到专家水平;在 Olmo 3 7B 上,每个专家只需几 GPU 小时的前向计算,即可在七个数学和代码基准上保留各专家的大部分增益。

    推荐理由:给出免训练合并多个专家模型的具体方法,层式最小二乘解只需几百条 rollout 的前向计算即可落地。

  21. arXiv · cs.AI37

    无需真值监督:基于模型分歧的弱到强路由方法

    一项 arXiv 研究(arXiv:2610.22245)提出用模型间分歧信号指导弱模型到强模型的路由,无需正确性真值标注。该方法先刻画最优弱到强路由策略,再基于多个弱模型本地推理响应推导出近似方案,且强模型越接近真值分布近似越准确。在智能体与单轮任务上,该方法能平衡路由成本与响应准确率,即使有真值信号可训练,分歧路由也可优于直接预测正确性的方法。

  22. arXiv · cs.AI26

    X-RIC:一个面向智能体 RAN 智能控制器的增强强化学习 Benchmark

    X-RIC 是一个将智能体 AI 融入 O-RAN 架构的新框架,把响应式强化学习与策略性智能体推理结合,包含基于领域启发式的自动化 Behavioral Cloning、Telecom Language Model 推理模块,以及 Near-RT RIC 控制环内的闭环协同适应。配套的 BARX 评测框架从延迟、合规性和确定性等指标评估智能体控制。在 SLA 感知网络切片的仿真与 O-RAN 兼容测试床验证中,X-RIC 实现 89% 运营成本下降,收敛快 75%、训练步数减少 50%、方差降低 46%,且保持 SLA 合规。

  23. arXiv · cs.AI42

    研究解析:脚手架为何仍能提升环境无关编码智能体表现

    一项研究用 Codex 智能体在 ARC-AGI-3、AGI Maze 和 Terminal-Bench 上对比两种几乎相同的提示词变体,仅改动一条“报告困难并交还控制权”的指令即可提升前两个环境的平均分。但即使搭配 GPT-5.6-sol,通用智能体仍低于 ARC-AGI-3 专用参考方案,把 reset 决策交给脚本控制器可挽回部分差距,额外教程经验反而可能降低 AGI Maze 表现。收益同时带来更高的 token 成本,作者发布了 EnvTraverse 框架与基线智能体。

  24. arXiv · cs.AI37

    EliteReplay:用质量多样性搜索在 LLM 强化学习后训练中保留多样化解法

    EliteReplay 是一种将 GRPO 与质量多样性搜索构建的"精英"档案回放损失相结合的后训练方法,可在提升 LLM 可验证任务准确率的同时保留基础模型的解法多样性。在多个 text-to-SQL 任务上,其 pass@128 超过所有基线,比最强基线多产出最多 77% 的不同正确策略;在 AmbiQT 模糊问题上覆盖两种解释的频率接近最强基线的两倍。

  25. arXiv · cs.AI41

    微调前呈线性可读的知识在微调后更易泛化

    一项 arXiv 研究区分了语言模型中的“活性事实”与“惰性事实”:前者能在微调后泛化到共享答案的保留主体,后者只能被召回却无法支持泛化。研究通过在既有关系上构造任意重标注的新关系来检验泛化,覆盖 11 个语言模型和 70 个关系,原始关系在预训练表示中的线性可读性与之强相关,模型内 Pearson r 为 0.87 至 0.92。结论是新关系能否泛化,更多取决于其共享结构能否被线性读出,而非事实本身能否被召回。

  26. arXiv · cs.AI41

    学习引导 LLM 智能体与多智能体系统

    研究者提出一种 steering agent,用于实时监督基于 LLM 的单智能体与多智能体系统,在其偏离整体目标(goal drift)时将其拉回正轨。该方法通过强化学习联合训练低成本快速路径与高成本慢速路径,结合成对排序目标与 GRPO。在信息搜索任务上的实验显示其能提升单智能体与多智能体系统的性能和效率,且引导能力可泛化到域外任务、迁移到未见过的执行器,并支持无需重训的可控干预频率。

  27. arXiv · cs.AI45

    市场化后训练让去中心化 Agent 集群学会自组织协调

    研究者提出市场化后训练(MPT)框架,让去中心化 Agent 集群通过投标机制联合学习动作策略与自组织协调,无需中央协调者。该框架在具身合成、机器人导航和深度研究任务上优于单体后训练,且在相同动作策略下,学到的自组织优于其他协调策略。训练后的集群对相关任务适应更快,在更大规模和 Agent 掉线时表现更稳健,代码和模型已开源。

  28. arXiv · cs.AI38

    基于 Qwen3-VL-8B 的双视角时序推理模型:互补表示提升 TSRBench 准确率至 53.2%

    研究者提出用互补表示设计时序语言模型,基于 Qwen3-VL-8B 结合折线图与归一化延迟嵌入两种视觉视角,经专用视觉编码器融合进同一语言模型。双视角模型在 TSRBench 上将整体准确率从单折线图的 44.5% 提升至 53.2%,远超最强专用 TSLM 基线的 36.7%,并在 TSExam 达 89.9%、多变量 ChatTS 对齐数值准确率达 86.8%。

  29. arXiv · cs.AI37

    面向连续扩散语言模型的 Transformer 架构设计:LangDiT

    研究者提出 Language Diffusion Transformer(LangDiT),针对连续扩散语言模型(CDLM)系统优化 Transformer 架构,引入 feature 与 query-key normalization、noise conditioning、梯度路由等设计。以 LangFlow 为骨干时,OpenWebText 上 1024 token 无条件生成取得 21.72 GenPPL(1024 NFEs);适配 Plaid-style CDLM 后达到 11.33 GenPPL(1024 NFEs),均创 SOTA,且不改变原模型的训练目标与推理采样器。

  30. arXiv · cs.AI46

    KnowGPO:面向搜索智能体的知识分组策略优化

    研究者提出强化学习框架 KnowGPO,将轨迹按已获取的任务相关知识而非表面观察对齐:把回答所需信息分解为原子知识条件,以相邻步骤间的知识增益作为过程奖励,并按相同知识状态分组比较。在 Xbench、BrowseComp-ZH 和 GAIA 上,KnowGPO 比仅用结果奖励的 GRPO 及过程监督基线 GiGPO、IGPO 高出 3.8 至 4.2 分,其 8B 模型可匹敌或超过多数 32B 开源系统。

  31. arXiv · cs.AI43

    用大语言模型发现最先进的量子线路

    研究者提出一个进化式框架,由 LLM 提出量子线路设计、独立评估器验证并打分,应用于数值计算、化学、优化、量子模拟和数理等任务。八个任务中七个发现的线路相比现有最优水平显著降低了 Toffoli 与 qubit 数量;在第八个任务中找到了素域模逆的新可逆架构,使原本不适用于可逆整数运算的 divsteps 算法变得可行,并显著改善模逆的 Toffoli-qubit 权衡。

  32. arXiv · cs.CL54

    System1-Arena:评测哪些决策可以交给 System 1 模型

    论文提出 System1-Arena 基准,统一给模型相同的决策请求并按概率打分,考察哪些决策可交给单次前向的 System-1 模型、哪些需要生成式推理。基准含 105 个任务的 92k 题目和 138 个闭环环境,评测 30 个模型;最大的 System-1 模型在非智能体任务上达到或超过快速闭源 LLM,延迟仅四分之一,推理型 LLM 最准确但成本约为快速 LLM 的 70 倍,闭环中大型开源 LLM 成功率最高(至多 32.9%)。

    推荐理由:论文用统一基准量化 System-1 与 System-2 模型的决策分工,读者可借此判断哪些决策不必走生成式推理。

  33. arXiv · cs.CL50

    用无标签子空间分离语言模型的判断能力(arXiv 论文)

    一项 arXiv 研究发现,语言模型在不同指令下答案可靠性下降主要源于表达变化而非内部判断改变:同一输入在不同指令下的隐藏态差异集中于一个低维“表达子空间”。研究者在无 benchmark 标签条件下识别并移除该子空间的影响,分离出的判断在未用于识别子空间的指令下保持可靠。当判断问题被否定时,该方法将线性预测器的 AUROC 从 0.504 提升至 0.825(entailment),从 0.480 提升至 0.891(safety)。

  34. arXiv · cs.CL33

    PocketTSLM:在智能手机上部署软提示时间序列语言模型,实现隐私保护推理

    PocketTSLM 是 OpenTSLM SoftPrompt 时间序列语言模型的移动端部署方案,可将编码的时间序列窗口作为嵌入注入,在全流程于消费级手机上运行。基准测试显示软提示路径的时间序列 token 用量减少约 12 倍,可处理 30 秒 Sleep-EDF 脑电片与 1,000 样本(10 s)12 导联 ECG-QA 心电片,而文本序列化基线在更长窗口下超出手机上下文或内存预算。Swift 移植经数值一致性协议验证与 Python 参考实现一致,推理全程不传输健康数据。

  35. arXiv · cs.CL24

    混合生成-标注解码方法用于高效电商商品属性值抽取

    研究者提出混合生成-标注解码架构,用于电商商品属性值抽取:对高频属性用标注头直接从源文本抽取值,生成头则专注稀有属性和不可复制的隐含/归一化值。集成进 vLLM 推理后,该方法将属性覆盖率提升 10%,多抽取出 63% 的正确属性值对,精度不受影响,同时延迟降低 44%。

  36. arXiv · cs.CL38

    注意力头排序与划分用于语言模型的稀疏与持续强化学习微调

    一项 arXiv 研究提出通过对注意力头按梯度范数排序和划分,实现语言模型的稀疏与持续强化学习微调。实验覆盖数学、指令遵循和编码任务,微调高排名注意力头的效果稳定优于低排名者,且常能匹敌更稠密的微调基线;按任务划分注意力头可减少跨任务干扰、提升旧能力保留,同时保持对新任务的适配。

  37. arXiv · cs.CL45

    DPA-MoE:面向 MoE 推理的运行时精度控制框架

    研究者提出 DPA-MoE,一个运行时精度控制框架,让 MoE 模型中被路由的专家支持任意精度。该方法用 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的分块,并在推理时依据实时 router gate 分数分配。在 Qwen3-30B-A3B 和 DeepSeekMoE-16B 上的实验显示,相同预算下 DPA-MoE 比均匀分块分配改善了 KL 散度和下游准确率,原型系统稳态吞吐开销适中。

  38. arXiv · cs.CL46

    HyCo:面向端云混合推测解码的高效草稿生成方法

    HyCo 将服务器模型的 MTP 头部署到设备端执行,结合一次 SLM 前向作为备选分支,通过量化、受限词表和 1K-token 窗口适配移动 NPU。在 Galaxy S26 Ultra 上经 LTE/5G 测试,HyCo 在 Spec-Bench 上较服务端 MTP 自推测减少 38.6% 的服务器 GPU 时间,在 32K-token 摘要任务上减少 29.2%;相比仅用 SLM 草稿多节省 9.0 个百分点、提速 1.9x,且输出质量与 Cloud+MTP 基本持平。