跳到正文
10月16日周五
  1. arXiv · cs.AI27

    FlashReFocus:秒级交互式图像重新对焦

    FlashReFocus 实现单张照片的秒级交互式重新对焦:每张照片只需运行一次 diffusion,后续编辑由轻量网络渲染,相比 GenRefocus 对焦快 148.3 倍,进一步编辑仅需约半秒(快 462 倍)。其一步 diffusion 去模糊器结合显式 defocus map 与 defocus-bias attention,可在保持对焦内容不变的同时支持移轴与双焦平面编辑。模型在 EBB! 和自建三相机基准 3CReal(89 对图像)上取得零样本 bokeh 渲染的最佳感知保真度。

  2. arXiv · cs.AI45

    CoTA++:从信息流视角解析 dMLLM 的重复诅咒

    扩散多模态大语言模型(dMLLM)依赖近似 KV 缓存加速解码,但会引发相邻位置重复同一 token 的「Repeat Curse」。研究者从信息流视角定位了步内注意力分散、跨步过期状态解码和深层熵不收敛三类扰动,提出免训练即插即用的 CoTA++,包含注意力重锚定、Decode-Aware Refresh 和熵引导投票三个组件。在三个 dMLLM 和两个缓存后端上,CoTA++ 将长回复重复率从最高 99.6% 降至至多 17.0%,在九个 benchmark 上挽回大部分精度损失,且缓存加速仅增加不到 15% 开销。

  3. arXiv · cs.CL37

    Annotrace:一个面向 Agent Trace 逐步骤标注的工作台

    Annotrace 是一个用于对 LLM Agent trace 进行步骤级标注的工作台,可读取 OpenTelemetry GenAI、LangSmith、Langfuse 等六种 trace 格式,把每次运行转成有序嵌套的步骤列表,并让前沿模型与人类按同一套 codebook 联合标注。在多智能体问答语料上,它精确复现了此前人工标注的 235 个标注单元;两个模型标注同一批 trace 时一致率达 91%(κ = 0.82)。

  4. arXiv · cs.CL42

    VERITAS 通过言语化模型计算检测思维链忠实性

    研究者提出 VERITAS 方法,通过层间 Jacobian 投影言语化模型内部计算,追踪推理锚点如何在各层间迁移并出现在输出中,以检测思维链(CoT)忠实性。在 FaithCoT-Bench 与 BonaFide 的四个数据集上,VERITAS 的 balanced accuracy 较 LLM-as-Judge 提升 28.4%,较 activation probing 平均提升 16.0%,且可泛化到不同数据集与模型架构。

  5. arXiv · cs.AI43

    超越边际影响:面向 LLM 智能体的交互感知记忆选择方法

    一项 arXiv 研究提出 LLM 智能体的逐决策记忆充分性问题:从全部记忆中选出小规模子集以保持完整记忆行为。作者推出含九类交互、六个工作流领域的 JointCoreBench 基准和按相关性代价排序的组删除基线 JointCore。在 6,912 个精确条件下,JointCore 100.0% 恢复最小代价充分集,将子集评估从 30.00 降至 11.13(减少 62.9%),实现 87.8% 活跃记忆节省;在四个 12B-70B 模型族上均值为 10.28 对 16.00 次模型查询。

  6. GitHub · 灵魂体仓库29

    Qubrio:基于多智能体 LLM 协作的高性能量子编译开源代码(NeurIPS 2026)

    NeurIPS 2026 论文 Qubrio 的官方代码开源,通过多智能体 LLM 协作实现高性能量子编译。支持 DeepSeek-V3.2、GPT-5.4 和 Qwen-3.5(经 OpenRouter)作为骨干模型,因 DeepSeek 已退役 V3.2,重跑将改用 DeepSeek-V4.1-Flash,也可用 --model deepseek-v4-pro 指定 DeepSeek-V4-Pro。基准测试包含 QFT-18、QAOA-60 等 8 个 QASMBench 电路,报告硬件运行时间 T_exe 与端到端保真度 F。

  7. arXiv · cs.AI37

    PrefMind:面向多模态响应生成的在线多智能体偏好学习方法

    研究者提出 PrefMind,一个在线双智能体强化学习框架,用响应 Generator 和偏好 Critic 两个可训练智能体替代基于打分的 RLHF 流程,让模型通过显式判断与纠错学习人类偏好的内在原因。人类标注监督两个智能体的判断与修正,双方在交互中联合更新。三个模型规模上的实验显示,偏好判断能力和下游响应生成都得到提升。

  8. arXiv · cs.CL60

    SPLIT 论文提出在验证器不完美时分配测试时算力的方法

    arXiv 论文 2610.23255 提出 SPLIT,用小规模标注试点通过经验贝叶斯拟合精确公式,在固定预算下规划采样数量、模型选择与验证开销,覆盖接受/拒绝和最高分选择两类验证方式。在七个基准、26 个模型、175 个智能体系统和六类真实验证器上,SPLIT 距事后最优分配仅差 0.02-0.8 个百分点,而所有测试的固定规则在部分场景至少损失 2.5 个百分点;该公式还解释了何时增加 LLM judge 反而降低精度,代码将发布。

    推荐理由:论文提出用小规模标注试点来规划测试时算力分配,覆盖26个模型和六类真实验证器的实验规模可作方法参考。

  9. arXiv · cs.CL45

    谁为高效推理买单?基于置信度的大语言模型小到大路由在任务与语言间的评测

    一项 arXiv 研究系统评测了基于置信度的小到大 LLM 路由,覆盖 3 个模型家族、4 种语言、3 类任务、72 种配置和 42,288 条预测。在 Belebele 与 SIB-200 上,50% 升级率下比随机路由分别提升 1.40–4.67 和 2.54–5.63 个百分点;但在 MMLU-ProX-Lite 上平均 AUC 仅 0.510,无一致收益。全局置信度路由存在高达 30.33 个百分点的语言升级差距,而等额配额路由能消除该差距且整体精度损失很小。

  10. arXiv · cs.CL47

    思考更多还是阅读更多?共享上下文下推理的 token 预算理论

    一项 arXiv 研究提出 token-budget 理论,形式化建模多智能体辩论与自我细化中“读与推理共享固定 token 窗口”的权衡,并由单智能体测量预测最优智能体数量。跨 5 个开源模型和 4 个推理任务,self-consistency 在 980 组匹配的窗口与组规模设置中 93% 的情况下持平或超过已部署的辩论方法,窗口越紧张差距越大。结论是共享窗口下模型剩余的思考空间比其阅读内容更重要。

  11. Reddit · r/LocalLLaMA18

    前沿模型不再公开思维链后,如何为特定任务做知识蒸馏数据集?

    Reddit r/LocalLLaMA 用户提出:前沿实验室不再公开 thinking traces 后,如何为特定任务构建蒸馏数据集。其设想是微调小型 Qwen/Gemma 模型从照片提取 3D 空间坐标:将图片和任务发给前沿模型 API 获取答案,再把问答对交给另一前沿模型生成思维链作为训练数据,并询问是否有更好方法。

  12. arXiv · cs.CL39

    MGE-PO:面向数学推理的熵感知信用分配方法

    论文提出 MGE-PO,通过结合验证正确性与 rollout 生成熵的四象限(4Q)优势塑形,改进 GRPO 对同等奖励响应不做区分的问题,并辅以在线熵问题课程。在 Qwen3-8B-Base 上训练八个 epoch 后,4Q 使六基准 macro avg@32 绝对提升 3.23-3.69%、macro pass@32 提升 4.24-11.06%;在 Qwen2.5-7B-Base 上将四基准 macro avg@32 从 41.5% 提升至 45.4%。

  13. arXiv · cs.CL36

    MultiAgent-OPD:基于 On-Policy Distillation 的分层多智能体系统端到端训练方法

    arXiv 论文提出 MultiAgent-OPD,将 on-policy distillation 与强化学习结合,端到端联合训练共享参数的 Leader-Searcher-Answerer 多智能体团队。冻结的 Teacher 模型对 Searcher 生成的搜索和摘要 token 打分提供过程监督,Leader 从团队成败学习,Answerer 从候选答案正确性学习。在七个数据集上系统达到 38.68% macro avg@4,超过 Prompted Critic 4.06 个百分点、超过 C-MAS + RL 2.61 个百分点。

  14. arXiv · cs.AI27

    表征与分析检索增强生成(RAG)技术的概念框架

    研究者提出一个概念框架,通过多维度和子维度对现有 RAG 技术进行表征(“是什么”)与分析(“做得如何”),框架基于对文献中 RAG 技术属性的定性分析构建。它可作为实证基准测试前的预筛选机制,帮助研究者和实践者在昂贵的实测之前,选出契合特定用户与任务需求的 RAG 候选方案。

  15. arXiv · cs.CL33

    ReLaDrift:基于 Drifting 的循环语言生成方法,支持测试时扩展

    论文提出 ReLaDrift,用共享的 Drifting Model 从噪声生成初稿,并在连续潜在空间中迭代精炼,训练时仅在最终轮施加 drifting loss、只回传一轮梯度。与一步生成、无法通过迭代提升精度的 Drifting Model 不同,ReLaDrift 可在测试时计算量与生成质量间权衡。在 Sudoku Hard 和 GSM8K 上,它在多种推理预算下达到与扩散、流语言模型相当或更优的性能,代码已开源。

  16. arXiv · cs.AI20

    qGAMMA:面向多精度加速器的 DNN 最优映射框架

    研究人员提出 qGAMMA 框架,用于探索和优化混合精度深度神经网络(DNN)模型在支持多种定点与浮点精度的通用空间加速器上的映射。该框架采用领域特定遗传算法和基于硬件综合结果的解析性能模型来搜索设计空间,找出最小化目标指标的最优映射与加速器配置。在多类 DNN 工作负载上的评估表明,它有助于在性能、能效和资源利用率之间取得更好的权衡。该工作被 SAMOS XXV 接收。

  17. arXiv · cs.AI43

    并非所有测试时算力都是证据:LLM 推理中的模型特定偏差

    arXiv 论文指出,同一推理模型的重复采样、不同推理深度和自评估之间存在错误相关性,因此同模型更多算力并不等于更多独立证据。作者提出 DIA(Disagreement-triggered Independent Arbitration),当中间阶段与最终阶段预测不一致时,由一组异构模型独立求解并聚合答案。在七个基准、两个基础模型上,DIA 在 14 个设置中的 12 个优于完整 chain-of-thought,MuSiQue 提升 7.00%,仅激活约 17% 的样本,token 用量比多智能体基线最多减少 47.2%。

  18. arXiv · cs.CL18

    MAS-Bai:面向白文白语的自适应多智能体翻译框架

    研究者提出 MAS-Bai,一个面向白文(Bowen script)白语-中文翻译的语言学驱动自适应多智能体框架,针对汉字被语音借用导致的直译幻觉问题,按输入路由至轻量检索翻译路径或含词源与句法智能体的深度语文学路径,并以轻量反向翻译器的 cycle-consistency 作为推理时可靠性信号。团队构建了 6,536 句白语-中文语料,在 1,536 句测试集上 MAS-Bai 达到 16.23 BLEU 和 62.15 COMET,较 Standard RAG 提升 8.11 BLEU 和 6.85 COMET,在语音借词和语序差异场景增益最大。

  19. arXiv · cs.AI25

    用调查报告的党派接触数据验证 LLM 生成的政治网络

    一项 arXiv 研究基于 ANES 2020–2022 社交媒体研究的人物设定,用 LLM 生成政治网络,并以受访者调查报告的党派接触度作为经验基准进行验证。结果显示,部分模型生成的民主党和共和党自我节点之间的分离比调查数据更强,另一些模型则低估了共和党接触度;结构属性相似的网络仍可能在同一人物周围生成不同的党派环境,且存在群体-specific误差。这表明仅靠聚合指标评估 LLM 社会模拟会掩盖局部环境错误,需在聚合与个体两个层面进行验证。

  20. arXiv · cs.AI29

    FuzzInsight:导航覆盖引导 DNN Fuzzing 的效率-效果权衡

    研究者提出 FuzzInsight,针对覆盖引导 DNN fuzzing 中种子利用低效与覆盖引导成本高两大瓶颈给出配置分析与决策指南。其 Equalized Sampling 策略将种子队列平均利用率提升至 77%,较此前方法提高 13 个百分点;在 MNIST、SVHN、GTSRB、CIFAR-100 四个基准上评估 84 种配置,发现非结构化准则 LSCD、LSC、MDSC 以更少计算量达到相当覆盖效果。用生成的边界样本重训练可将泛化鲁棒性平均最多提升 77 个百分点,且不损害原测试分布上的性能。

  21. arXiv · cs.AI53

    OfficeTown 论文提出生成式组织模拟框架并以组织数据提升 Qwen3.5-9B

    arXiv 论文 2610.23194 提出 OfficeTown,一个从自然语言组织描述生成职业组织模拟的框架,成员协调分工、委派任务给助手智能体并评审产出,产物与未决事项持续存在影响后续工作。配套 OfficeTown Bench 含 23 个模拟组织、8 个专业领域的 406 个任务和 4,836 条评测标准;对 Qwen3.5-9B 做监督微调和 on-policy 蒸馏后在外部职业工作基准(含 GDPval)上明显提升,principal-assistant 框架得分高于所测单智能体与多智能体基线。

    推荐理由:论文把组织模拟当作智能体训练数据源,任务与评审反馈可持续生成,还验证了主从协作框架优于单智能体基线。

  22. arXiv · cs.AI32

    LangNCO:将自然语言约束编译为神经组合优化的推理时干预

    LangNCO 框架将实例级自然语言需求编译为结构化推理时干预,无需重训即可让冻结的 NCO 求解器适配新约束,LLM 作为语义前端生成经 schema 校验的 DSL 规则,由确定性 Rule Executor 施加硬动作掩码,并配合 Critical-Offset Decoding 分配 rollout 预算。在 CVRP 上评测,LangNCO 在四个主数据集实现 100% 可行性、平均参考差距 1.63–3.26%,组合成对约束时可行性 97.33–100%,额外 12 类约束上可行性 98.67%。

  23. arXiv · cs.AI47

    MoEvolve:基于在策略双向蒸馏强化 MoE 模型的自蒸馏框架

    arXiv 论文提出 MoEvolve,一个面向 MoE 大语言模型的双向蒸馏框架,通过“先恢复再提升”策略,将激活扩展后的高-k 模型作为更强教师,再把增强后的能力蒸馏回原始低-k 配置并保留推理时的激活预算。该框架在多个 MoE 模型和基准上将初始模型最高提升 22.2 个领域平均分,比同预算 RLVR 基线最高高出 6.5 分,且最终低-k 模型常常超过其激活扩展教师。

  24. arXiv · cs.CL26

    AMEND:基于约束引导与隔离评论者的多智能体文本去毒化框架

    研究者提出 AMEND,一种推理时文本去毒化框架,将去毒解耦为角色化候选生成、隔离多维批评与约束优先选择。在 ParaDetox 上,多角色单轮选择比最佳单一角色提升联合指标 +0.0508;AMEND Lite 在冻结确认测试集上取得 0.6597±0.0062 的联合分数,比无约束多轮循环高 +0.0489(p<0.05),同时推理请求减少 28.4%。

  25. arXiv · cs.CL35

    DarkLens:从 Unembedding 暗空间读取 LLM 的上下文依赖以检测忠实性幻觉

    一项新研究提出 DarkLens,通过将隐藏状态投影到 unembedding 矩阵弱组合的"暗空间",以 Dark Matter Ratio(DMR)衡量模型的上下文利用程度,仅需单次前向传播即可检测忠实性幻觉。该方法结合参数知识分数,在三个 QA 与摘要基准、六个 4B-13B 开源权重 LLM 上评测,表现持平或优于多种基线,且无需额外前向传播或探针训练。

  26. arXiv · cs.CL44

    TreeOPSD:面向长程智能体强化学习的树感知后验知识蒸馏框架

    研究者提出 TreeOPSD,一个无需 critic 的树感知后验自蒸馏框架,用于长程智能体强化学习。该方法将每轮交互视为树节点,从共享前缀分支备选续写,并将终止奖励递归回传为隐式轮级信用,映射为有界的闭式教师分布。在 Deep Research 设定下,TreeOPSD 使 Qwen3-30B-A3B-Thinking-2507 的平均准确率较 GRPO 提升 4.97 分。

  27. arXiv · cs.CL28

    语音脑机接口需要更大的模型吗?超越规模化重新思考神经解码

    BEST(Brain-Encoding-Speech-Text)提出两阶段神经到文本解码框架,用分层中间表示和紧凑的语音解码器替代大型生成模型。在 Brain-to-Text '24 与 '25 基准上分别取得 6.19% 和 1.62% 的词错误率(WER),仅用同类方法 3.85% 的参数量。研究还发现解码器扩展收益非单调、跨模态对齐比模型规模更关键、过拟合损害序列级性能。

  28. arXiv · cs.CL25

    Chinese Decision:单次前向概率决策中文语言模型系列

    中科院计算所发布 Chinese Decision 中文模型系列,用于单次前向 pass 的概率决策:模型一次前向提取候选选项字母 logits 并归一化,无需自回归生成答案。已完成的 0.8B 模型在 307,900 条决策的 CJ-Bench 上取得 72.24% 通用域准确率、76.98% 专业域平均准确率,整体期望校准误差 1.07%;2B checkpoint 经 RLCD 目标初步训练后达 72.56% 通用域准确率但尚未超过 0.8B。训练、评测与部署流水线(含 Q8 量化)已开源。

  29. arXiv · cs.AI45

    LongForge:用证据-断言推理图度量并改进长上下文指令数据

    LongForge 将长上下文指令数据质量形式化为文档、问题与答案之间的对齐结构,包含分析器与合成器两部分。分析器把样本逆向重建为证据-断言推理图,计算广度、深度、正确性、完整性四个维度,对七个主流数据集的测量发现广度几乎不随文档长度增长、深度普遍偏低。合成器将其嵌入生成过程,LongForge-1 与 LongForge-2 两个混合数据在两个骨干模型上于六个长上下文 benchmark 中平均超出最强基线 2.2-4.7 分。

  30. arXiv · cs.CL32

    用自然语言解释国际象棋与围棋:BinProp 方法让语言模型棋评更可懂

    研究者提出基于国际象棋引擎评估的自动指标来衡量语言模型的象棋解释质量,发现现有 SOTA 模型表现很差,多依赖棋盘表面观察而非可迁移的象棋概念。他们进而提出免训练方法 BinProp,让模型发现可复用的象棋概念并用自然语言解释走法,平均得分较直接提示提升近 3 倍。该方法无需额外调参即可在围棋、西洋跳棋和将棋中发现有用概念。

  31. arXiv · cs.AI40

    算法模型化:将优化算法转化为可进化的智能

    一项 arXiv 研究提出「算法模型化」新范式,把迭代算法的执行轨迹当作计算经验,转化为可训练的模型。研究者将迭代优化建模为自回归过程,构建与维度无关的种群-时间架构,并通过先模仿异构教师、再经优化反馈超越的学习框架训练优化器。所得模型可整合异构搜索知识,并泛化到更大规模未见维度,使算法能力可通过学习不断积累。

  32. arXiv · cs.CL40

    Cross-Centaur:用语言模型建模跨心理学任务的个体决策

    研究者提出 Cross-Centaur 模型,利用跨任务个体级数据预测人类决策,并发布 Cross-Psych-101 数据集,涵盖 591 名参与者、12 个任务中的 261,551 个有效决策。该模型在留出参与者上的表现超过现成 LLM 和 Centaur,探测分析显示其隐藏状态编码了可跨任务迁移的参与者级行为倾向。论文已被 EMNLP 2026 主会接收为口头报告,数据集已公开。

  33. arXiv · cs.AI18

    QuAD:基于内容感知多智能体系统的分布对齐定性数据质量量化评估框架

    研究者提出 QuAD 框架,用于对半结构化定性响应数据集做量化预分析评估:将重建的内在聚类分布与研究者定义的外部分析透镜对比,以四象限指标联合判断数据是否适配特定分析目标。该框架引入带两阶段指令生成和自适应锚点的内容感知多智能体系统以提升打分一致性,并通过合成数据实验和真实社会调查案例验证。

  34. arXiv · cs.AI19

    CIIR:类索引接口表示学习框架,实现无配对多模态数据集间的模块化通信

    arXiv 论文提出 CIIR,一种通过类索引地址空间连接异构数据集的模块化编码器-解码器框架,无需配对或实例匹配样本。模型用 128 维地址表示,从手写数字、服装图像、口语数字频谱图和手势中学习,label-free 接收器达到 94.7% 宏平均 Address Realization Accuracy;冻结地址空间后仅训练轻量适配器,MNIST>SVHN 和 SVHN>MNIST 端到端 Address Transfer Accuracy 分别为 90.2% 和 82.3%。

  35. arXiv · cs.CL37

    AI 能否担任访谈员?AI 访谈与人工访谈的首次直接实证对比

    一项随机实验(N = 41)首次直接比较了 AI 访谈员与人工访谈员的数据质量:本地部署的 7B 开源权重模型每次访谈提问数量是人工的两倍以上,引出的受访者文本多约 65%。两种条件下访谈时长中位数相近,回复切题度几乎一致,特异性未检测到差异。结果表明 AI 访谈适用于大样本定性数据收集,并可缓解数据安全与 GDPR 合规顾虑。

  36. arXiv · cs.AI44

    用于内存高效训练的局部代理方法研究

    一项 arXiv 研究提出在 Transformer 每个模块训练局部代理网络,通过知识蒸馏预测全局网络输出,使梯度无需存储全部激活值即可独立回传,理论上对深层线性网络精确成立,非线性残差模型中梯度误差有界。该方法在 CIFAR-100 上的 vision transformer 实验中取得优于其他局部算法的准确率/内存权衡,用于小内存预算下微调大语言模型时,比 zeroth-order 学习算法训练更快、性能更高。

  37. arXiv · cs.AI32

    LexPilot 基准:评测法律 LLM 在中文民事咨询中面向普通人的主动交互能力

    LexPilot 是一个将主动式法律交互与真实中文民事判决的 claim 级判决预测关联的基准,由 432 份真实判决、36 类常见案由构建,包含专家审核的完整与欠明确咨询历史对。实验显示,现有 LLM 在欠明确咨询中难以主动追问关键信息,下游判决预测平均比完整咨询设置低 23.84%。

  38. arXiv · cs.CL51

    arXiv 论文提出 LED:用 Lookahead Editing 改进掩码扩散语言模型

    arXiv 论文提出 Lookahead Editing(LED),在掩码扩散模型的解码中加入可重写的提案状态,让模型在提交 token 前多次前瞻更新以提升表达能力,同时保留易于优化的掩码转移调度。作者基于 Qwen2.5-7B 和 Qwen3-8B 微调得到 LED-7B 和 LED-8B,在八项基准上 LED SFT 平均比标准 MDM SFT 提升 +11.4 和 +7.7 分,且 LED-8B 仅用 SFT 就超过了经持续预训练、SFT 和强化学习训练的 LLaDA2.1-16B Q-mode。

  39. GitHub · 3D 生成新仓库45

    rag-hallucination-risk 开源项目:用 token 不确定性与语义漂移检测 RAG 幻觉

    Rajeeell 发布 rag-hallucination-risk 项目,通过 token 不确定性(perplexity 等)与答案—上下文语义漂移组合得分来检测检索增强生成中的幻觉。在长度匹配的受控实验中,perplexity 的 AUROC 达 0.81–0.91;校准后 Mean ECE 从 0.072 降至 0.035。在 RAGTruth QA 的 875 条真实回答上,perplexity 与组合得分的 Mean AUROC 分别为 0.584 和 0.643。实验覆盖 Phi-3-mini、Gemma-3-4B、Llama-3.1-8B、Qwen2.5-14B 及 HotpotQA、SQuAD 数据集,代码含生成/打分 notebook 与 CPU 分析脚本。