跳到正文
今天10月27日周二161 条
  1. arXiv · cs.AI46

    PhysEvolve:基于验证器的可执行世界自进化物理推理框架

    arXiv 预印本提出 PhysEvolve,一种基于验证器的自进化框架,通过模型自提议的可执行世界程序和物理引擎模拟的反事实分支,训练 VLM 进行因果物理推理。从 Qwen3-VL-8B-Instruct 出发,无需人工干预数据,PhysBench Throwing 提升 8.8 分,ContPhy Counterfactual Removal 和 Goal-Pit 分别提升 7.4 和 24.4 分,并对布料、流体、软体等未见动力学和真实视频实现零样本迁移。

  2. arXiv · cs.AI49

    编码智能体 harness 如何自我演化?一项关于回顾式适应的实证研究

    一项实证研究考察编码智能体 harness 能否通过经验自我演化:让 Claude Code 运行 \retro 技能,在 30 个 SWE-bench Verified 问题上回顾会话并提出 125 项修改建议,实施其中 24 项,并在新会话中评估 12 项 harness 改动。在目标问题实际出现的 7 次评估中,2 项改动消除了目标行为,1 项减少其发生,4 项无效,部分改动还在无关问题上增加了工作量。研究指出 harness 自我演化还需要验证改动是否有效、并修订或移除无效改动的机制。

  3. arXiv · cs.AI28

    SEAC:基于经验条件的事实核查"停止还是澄清"决策方法

    arXiv 论文提出 SEAC(Sequential Experience-Adaptive Clarification),在固定事实核查模型外包裹一个轻量证据获取策略,根据先前执行轨迹的观测性澄清效用估计与停止风险,决定继续取证还是直接出标签。在 SciFact、LIAR 和 FEVER 上,SEAC 的平均准确率和 macro-F1 超过所对比的事实核查与主动检索基线;等预算与公式级诊断支持选择性澄清是增益来源,但 SciFact 数据集较小,其配对提升尚无定论。

  4. arXiv · cs.AI46

    高效 AI 编程的推理模式实证研究

    一项实证研究将大推理模型(LRM)的推理轨迹转化为结构化动作序列,在四类编程任务中挖掘出四种通用推理模式:代码生成的设计到实现、执行推理的状态追踪、调试的证据—修复—复检、翻译的语义映射。基于正负模式的三种应用(任务识别、模式引导提示、模式感知早停)可在未见过的模型上泛化,其中早停能大幅减少 API 报告的 token 用量,pass@1 仅轻微下降。

  5. arXiv · cs.AI38

    关系组合即平行输运:per-entity 坐标系对称性如何约束 Attention

    arXiv 论文提出把每个实体的坐标系自由度视为对称性,证明正交输运下 attention 不变得分只依赖范数与输运内积 ⟨xᵢ, Tᵢⱼxⱼ⟩,标准 attention 是共享坐标系的平坦截面。在最小忠实表示宽度下,17/17 随机种子通过长度 1000 的测试,而两倍宽度仅 7/18;模型可仅凭权重给出正确性证书。在 CLUTRR 上输运组合在 4-10 跳比匹配 transformer 高 41 分,StepGame 的交换代数任务上等距变换则有益。

  6. arXiv · cs.AI42

    Info-GRPO:面向长链推理的相关性感知探索方法

    研究者提出 Info-GRPO,一种基于信息论的 GRPO 改进框架,通过在训练中为提示词加入隐变量种子来培养策略与隐含先验的相关性,让探索性分布在整条推理链上维持,避免熵正则化与收敛所需的熵衰减相冲突。在 AIME24 上,Info-GRPO 在四个 backbone 上将 Avg@8 较 GRPO 分别提升 3.75%、1.66%、4.16% 和 4.17%,并以少 8× 的样本达到相同多数投票准确率。代码和模型将公开发布。

  7. arXiv · cs.AI33

    Decision Model Factory:构建专用的主权决策模型

    Decision Model Factory 可按需将具体应用、语言与部署环境的需求转化为由运营方掌控的专用主权决策模型,通过配方流程完成骨干模型的训练、校准、验证与评估。在日语决策任务、紧凑部署和长文本段落排序场景中,五个工厂产出的模型均超越其骨干模型,其中三个在固定的公开日语基准对比中超过最强结果。配套专用 runner 只计算允许答案的概率并复用共享上下文,在同等多问题负载下将服务速度提升一倍以上,决策分数基本不变。

  8. arXiv · cs.AI45

    GUIFlow:面向 GUI 智能体的时序冗余感知增量推理框架

    清华团队(Ye Li 等)提出 GUIFlow,一个面向多图像 GUI 交互全流程增量推理的框架,可在视觉编码、prefill 和解码各阶段跨步复用计算状态,无需额外训练或草稿模型。历史 KV 状态按位置对齐注入当前上下文,变化信号引导视觉编码器和语言模型的选择性更新,并用先前动作响应作为草稿由目标模型验证。该方法在离线多图像 benchmark 上获得最高 3.39x 几何平均加速,在 OSWorld 在线闭环交互中最高加速 3.49x,任务性能与稠密基线大致相当。

  9. arXiv · cs.AI36

    C-SafeGen:基于声明的流式护栏实现可认证安全的 LLM 生成

    C-SafeGen 提出 Claim-based Stream Decoding(CSD)算法,结合流式护栏模型逐条审查 LLM 生成的声明,并通过回溯机制修正高风险内容,配合基于 conformal analysis 的统计风险保证框架。理论证明该方法可在安全约束下逼近目标生成分布,并给出安全风险的高概率上界,能渐近将风险控制到任意目标水平。实验显示 CSD 相比现有安全解码方法更有效且高效。

  10. arXiv · cs.AI55

    研究提出角色分离的自动红队方法,目标智能体宜自评而不宜自提攻击

    论文研究自动红队中批评与攻击提议两个角色的分工,发现自我批评因基于目标会话的实时执行上下文而更有效,移除推理会使下游攻击成功率下降 6%-17%,而自我提议因知晓对抗目标会引发明确拒答与 sandbagging。据此提出目标会话诊断失败、独立攻击者生成下一提案的角色分离方案,在覆盖 Telecom、Workflow、CRM 和 Code 的 DTAP-BENCH 上,多种智能体框架与直接滥用、间接威胁模型下整体攻击成功率达 63.2%,高于基线。

    推荐理由:论文拆解了自动红队中批评与提议两个角色该由谁承担,并给出角色分离后的攻击成功率数据,方法可迁移到智能体安全测试。

  11. arXiv · cs.AI32

    SVD-Attention:高效分析 Transformer 注意力块

    研究者提出 SVD-Attention,一种事后诊断方法,通过分解每个注意力头的交互矩阵并结合谱幅值与激活方差打分,判断哪些头在真实数据上真正用满秩预算。在 7 个预训练模型和 5 类任务上,该方法发现的冗余层具有任务相关性:情感、图像分类和生成任务冗余在早中层,密集预测和抽取式问答冗余在晚层。按其标记截断层最多损失 1.75 F1,随意截断则最多损失 50 F1;结合权重剪枝可减少 8-11% 推理 FLOPs。

  12. arXiv · cs.AI28

    SR-BEVS:提升相机式 3D 目标检测鲁棒性的稀疏恢复 BEV 模型汤

    研究者提出 SR-BEVS,一种无需额外数据和架构修改即可同时提升干净精度与腐蚀鲁棒性的稀疏恢复学习方法。该方法按层级权重大小选出剪枝候选,随机剪枝生成多个稀疏模型并各用随机采样学习率重训练,再平均为单个稠密模型,推理开销为零。在 nuScenes 上的实验显示,相比 Fast-BEV 基线腐蚀鲁棒性最高提升 33.8%,干净精度提升 1.8%。

  13. arXiv · cs.AI18

    AskGLP1:基于知识图谱的 LLM 智能体,用于探索在线患者叙述中的 GLP-1 用药体验

    研究者提出 AskGLP1,一个将在线患者叙述转为知识图谱并回答用药体验问题的 LLM 智能体。该系统基于 MedDRA 术语,从近 850 万条 Reddit 帖子中筛选出 163,135 条用药体验,结合 2,506 条 WebMD 评论,构建含 385,790 条药物-副作用与药物-用途关系的三元组。结果显示在线叙述与 FAERS 互为补充,且 tirzepatide 的恶心呕吐报告少于 semaglutide;智能体能提供可验证证据并拒绝医疗建议请求,代码与提示词已开源。

  14. arXiv · cs.AI34

    LLM 为何会自信地犯错?CoCHI 通过因果头干预纠正过度自信错误

    一项被 NeurIPS 2026 接收的研究提出 CoCHI(Class-oriented Causal Head Intervention)框架,通过分析正确性-置信度模式,定位并干预导致过度自信的模型内部组件来改善校准。在多个 LLM 上的实验显示,Expected Calibration Error、Negative Log-Likelihood 和 Brier Score 一致改善,同时在五个多项选择问答基准上保持准确率。该方法将校准可靠性归因于模型内可识别的结构,而非仅调整输出。

  15. arXiv · cs.AI5

    从单中心到系综:面向 NV 光谱的校准符号回归流水线

    研究者提出一套符号回归流水线,将单中心自旋结构带入校准后的 NV(氮-空位)系综模型:从单中心 ODMR 光谱中筛选厄米算符项作为源模型,再校准共振频移、局域无序、取向与光学响应。在公开数据上,零场系综保持频率的归一化光致发光 RMSE 从 0.008835 降至 0.003872,提升 56.2%;在 128 个位点、四种 NV 取向的 QuTiP 系综中,用 0 和 3 mT 校准的模型预测独立留出的 5.17 mT 光谱,误差 0.000207-0.000228,接近 0.000200 的噪声标准差。

  16. arXiv · cs.AI34

    PatentAgentBench:用专业专利任务套件评测 LLM Agent

    arXiv 新论文推出 PatentAgentBench,包含覆盖 8 个任务套件的 510 个实例,涵盖新颖性检索、FTO 检索、无效检索、权利要求对照表、专利撰写、审查意见答复和专利翻译等任务,基于真实专利记录并由专家标注。研究评估了 7 个 LLM 在 4 种 agent harness 下的表现,发现当前系统仍难以识别新颖性、评估风险和理解专利从业者意图。

  17. arXiv · cs.AI18

    CA-HNM:基于结构化领域模型的约束感知难负例挖掘方法用于稠密检索

    研究者提出 CA-HNM,一个将检索候选生成与来自结构化领域模型的确定性不兼容规则相结合的约束感知难负例挖掘框架,用于微调标准双编码器稠密检索模型。在 MOOCCubeX 和 Course-Skill Atlas 两个数据集上,用两种编码器、两种训练损失和十个随机种子评估,CA-HNM-Pure 在 8 个数据集-编码器-损失配置中的 6 个取得更高的平均 NDCG@10,另有实验显示 CA-HNM-Mixed 也略优于对照。结果表明约束感知选择的效果取决于训练目标和负例池构成。

  18. arXiv · cs.AI23

    超越单一属性审计:ComFair 可配置多属性基准评测 LLM 交叉性公平性

    研究者推出可配置公平性基准 ComFair,将现有公平性数据转换为 479,066 个受控的双属性与多属性实例,并为每个实例配对任务等价的源数据。对十款 LLM 在 Recognition、Selection、Continuation、Conversation 四类任务上的实验显示,敏感度依任务和子群组而异:判别式任务能暴露聚合指标下不可见的双向变化,生成式任务偏移更大且方向不对称,模型排名随属性组合而波动。ComFair 提供可扩展的受控敏感度审计,用于检验公平性评测结论在多属性交叉场景下的稳健性。

  19. arXiv · cs.AI16

    基于 Graphormer 的动态车道方向调整与可变限速联合控制方法

    一项 arXiv 研究提出用共享 Transformer(GERASTSA 注意力)联合控制路网动态车道方向调整与方向性限速,并以图定向理论保证路网始终强连通。在 6 x 6 网格仿真中,学习策略使约三分之二道路在高峰方向单向通行,日延误较固定初始配置降低 90%,较调优的双向负载均衡器降低 85%;预训练使超越固定配置所需的更新次数约减半。

  20. arXiv · cs.AI9

    电力负荷预测中 GNN 的诊断协议:分离参数共享与邻居访问的贡献

    一项研究提出诊断协议,将 GNN 负荷预测的优势拆分为跨序列参数共享与邻居访问两种机制,通过逐节点网络、无邻居共享网络、去边 GNN 三个参照模型和保度数重连实验加以区分。在法国区域负荷、英国低压馈线及客户用电序列三个数据集上,参数共享贡献了主要误差缩小(馈线上约三分之二),而边的增益较小且重连后消失过半,客户序列上甚至与零无异。结论认为预测收益只有在与逐节点和共享参照对比后才应归功于图结构。

  21. arXiv · cs.AI29

    从高频数字交互数据建模快速人类反应:EMBER 与 ORBIT 在 Counter-Strike 2 遥测数据上的探索

    一项探索性研究基于 Counter-Strike 2 的毫秒级遥测数据,提出 Ego-Knowledge 感知状态重建方法,并训练 EMBER(梯度提升)与 ORBIT(transformer)两个模型预测 60–120 ms 窗口内的“战或逃”反应标签。EMBER 在验证集上准确率达 73.5%,ORBIT 为 71.2%,均优于 51.5% 的多数类基线;在 1,000 个验证案例上,两者均显著超过最强 LLM 基线的 62.7%,且推理时间和成本低数个数量级。加入触发后短时间窗口可将准确率单调提升至 85.15%,作者将该曲线作为快速控制向深思控制过渡的候选探针,但强调神经科学解释仅为假设生成性质。

  22. arXiv · cs.AI13

    基于规则排序提示词的晶圆图零样本多类别分类:免训练框架借助大型多模态模型实现

    研究者提出一种免训练的六类晶圆图缺陷分类框架,将连通域高亮与融合形态、位置和排除规则的提示词结合,用于冻结的大型多模态模型,无需标注数据和再训练。在 Mixed-WM38 数据集(6,866 张图)上达到 92.9% macro 和 93.8% 总体准确率;在 WM811K(9,000 张图)上分别为 79.1% 和 81.3%。消融实验显示八种替代规则顺序总体准确率为 90.1-91.9%,低于所选顺序的 93.8%。

  23. arXiv · cs.AI57

    arXiv 论文提出用目标冲突样例改进 LLM 指令层级

    arXiv 论文(arXiv:2610.35093)指出指令层级(IH)训练中存在一类被 OpenAI 和 NVIDIA 现有训练集遗漏的冲突类型,即目标与目标之间的冲突。作者将任务分解为目标和约束后发现这一缺口,并在 Qwen3.5-9B 与 Gemma4-12B-it 上微调该类冲突样例,显著提升训练未见真实任务上的指令层级表现;将其加入现有 IH 训练集也能提高 adherence,且在八个基准的无冲突任务上平均效用变化很小。

    推荐理由:论文指出 OpenAI 和 NVIDIA 的指令层级训练集缺少目标冲突这一类型,并用微调实验给出可复用的补法。

  24. arXiv · cs.AI46

    arXiv 研究:Grokking 中的子空间结晶——秩压缩滞后于相变出现

    一项 arXiv 研究通过 mean-field MLP 和单层 Transformer 在模运算任务上分析 grokking 机制,发现权重矩阵有效秩的压缩发生在 grokking 出现之后而非之前:各 Transformer 均在 250 步内记住训练数据,而 grokking 起点在 6,500 至 21,000 步之间变化,秩下降最陡处在起点约 900 步后。研究还观察到"子空间结晶"现象,即保持输出精度所需的方向数从四分之一以上降至约十分之一。强制低秩反而延迟或阻止 grokking,说明秩压缩是 grokking 的标志而非原因。

  25. arXiv · cs.AI28

    UTA:通用训练自适应学习率衰减

    研究者提出 UTA 学习率衰减方法,将 UBA 的理论框架扩展到 Adam 类优化器,把学习率衰减建模为闭环的形状与尺度问题,使其能随训练状态自适应调整。实验显示 UTA 在 LLaMA 60M 到 1B 语言模型及 ImageNet 上的 ResNet50、ViT-B 视觉模型中带来一致提升,且即插即用、开销可忽略。

  26. arXiv · cs.AI25

    生成式 AI 在湍流研究中的应用:基础、应用、验证与基准

    一篇提交至 JFM-Perspective 的综述探讨生成式 AI(重点是 diffusion models、score-based 方法和概率输运公式)在湍流问题中的应用,涵盖随机闭合、超分辨率、数据同化和不确定性量化等场景。文章指出视觉逼真度、逐点误差和低阶谱一致性不足以衡量物理保真度,验证须考察能量传递、结构函数、反常标度、概率密度尾部、守恒律等湍流特性。作者还讨论了基准、数据可得性与可复现性方面的局限,呼吁建立含开放数据、标准化挑战与物理感知指标的基准生态。

  27. arXiv · cs.CL48

    面向外部 LLM 的文档可逆假名化:开源双语 benchmark 与引擎

    一项研究提出面向外部 LLM 的文档可逆假名化开源 benchmark 与引擎,在俄语和 UK English 上评测五个开源工具加正则基线,并基于其中两个最强工具构建新引擎。在每语言 1000 篇留出文档上,现有最佳工具仍有 61%(俄语)和 58%(UK English)泄露完整值,新引擎降至 0.3% 和 0.2%,并满足全部检测阈值。UK English 下引擎在 760 个回答后至少还原 99% 占位符,俄语姓名还原仅 94.6%,未达 99% 阈值;所有评测数据均为合成数据。

  28. arXiv · cs.CL47

    九个 AI 模型在医疗诊断中的谄媚性评测:患者信念分级研究

    一项 arXiv 研究评测了九个 AI 模型在患者坚持错误病情信念时改变诊断决定的倾向,发现模型平均 23.2% 的情况下会谄媚地采纳患者信念,有时甚至接受虚构疾病。其中“罕见病声称者”人设使模型接受信念的比例达 43.0%。分析显示医学微调和更大模型规模可降低这种易感性。

  29. arXiv · cs.CL32

    GEPA 合并何时有效?一项机制层面的诊断

    一项 arXiv 研究诊断 GEPA 反思式提示词优化器中合并算子不稳定的成因:合并平均提升 gpt-4.1-mini 却降低 Qwen3-8B 表现。在五个数据集、两种模型上进行的九种配置扫描显示,配置得当时合并对两个模型均有提升,说明不稳定源于配置敏感性而非算子固有缺陷;提示词级静态特征也无法预测合并接受决策。基于行为探针的概念验证可在高风险任务上弃权以避免大规模合并失败,但未稳定超过 NoMerge,代码以 GEPA-MergeProbe 开源。

  30. arXiv · cs.AI47

    ST-OPSD:用激活导向改进思考模型的 On-Policy Self-Distillation

    一项 arXiv 研究提出 Steered-Teacher OPSD(ST-OPSD),针对 on-policy self-distillation 中教师模型引发的两类失效模式:reference hallucinations 和 reconsideration suppression。该方法从模型生成的推理轨迹中提取两个方向,作用于教师 hidden states,抑制引用参考答案行为并鼓励重新审视。在 AIME 和 HMMT 上,ST-OPSD 准确率超过 vanilla OPSD 等干预方法,并将两类失效率恢复至 base-model 水平。

  31. arXiv · cs.AI22

    Fed-Universe:语义-几何-拓扑-人工(S-G-T-H)四层架构实现联邦系统中的协商式对齐

    研究者提出 Fed-Universe,一种语义-几何-拓扑-人工(S-G-T-H)架构,将联邦学习中被动的全局平均转为主动协商式对齐。其 S 层用边缘 LLM 转换异构输入,G 层以余弦相似度门控保留少数站点更新,T 层通过敏感度 knee point(lambda_k)做多目标聚合。在双国临床网络仿真中,数据量不足 3% 的少数节点实现效用持平(loss 从 0.857 降至 0.340)。

  32. arXiv · cs.AI19

    BriLLM-MetaPred:基于 AGI 数学理论的表示-预测统一语言模型与自适应自测量

    研究者提出 BriLLM-MetaPred,这是源自 AGI 数学理论的 MetaPred 机器学习框架在语言建模上的首个工程实现。其单一连续演化的动态状态同时承担上下文表示与预测读出,通过持续自测量降低有限深度不一致,并借助 BriLLM 的 SiFu 学习范式在现有软硬件加速器上运行。该实现达到与同规模 GPT 基线相当的预测性能。

  33. arXiv · cs.AI25

    DeepSciReasoner:物理约束下的深度科学推理与结构感知光谱预测

    研究者提出 DeepSciReasoner,一个在物理硬约束下预测科学光谱的通用框架,结合结构感知光谱解码与保持约束的物理推理。该方法以电子态密度(eDOS)为原型,并在 phDOS、XANES 和 Raman 光谱上显著提升预测精度,同时保持物理一致性。代码与数据已在项目页面公开,论文发表于 ICML 2026。

  34. GitHub · 3D 生成新仓库32

    AutoREC 开源:用强化学习从电化学阻抗谱数据自动生成等效电路模型

    开源 Python 包 AutoREC 将等效电路模型(ECM)构建建模为马尔可夫决策过程,训练 DDQN 智能体从 EIS 数据自动生成电路模型。论文显示,该智能体在合成数据集上成功率超过 99.6%,并能泛化到多种电化学系统的未见实验数据。包内含数据准备、优先经验回放、死循环缓解、缓存评估、YAML 配置及 Jupyter 教程,论文已发布在 arXiv。

  35. Reddit · r/LocalLLaMA37

    KS3 算法在 Mandelbulb 拟合上对比 MLP:收敛更快、细节更丰富

    开发者展示新算法 KS3(K-Splanifold 第三代,基于 Hermite 样条流形),在 Mandelbulb 函数随机样本的梯度下降拟合中比同规模 MLP 收敛更快、细节更多且 loss 更低。作者已用 KS3 替换 MLP 训练多个 SLM,并在 modded-nanogpt speedrun 的代理硬件上超过世界纪录,但尚未在官方要求的 8xH100 上验证。

  36. GitHub · 灵魂体仓库54

    cstebs/clinical-rag-evals:以 FDA 指南为语料的 RAG 评测框架开源

    作者开源 clinical-rag-evals,一个以 FDA 指南文档为语料的 RAG 评测框架,发布 14 种检索配置在 124 份文档、85 道手写问题上的完整对比表:混合检索(BM25+dense)比纯 dense 高 +0.103 recall@5,256-token 分块更好,重排序在 512-token 块上反而变差并定位到 cross-encoder 窗口截断原因。LLM judge 经 40 条人工盲标验证,正确性 κ=0.81、拒答 κ=1.00;生成零幻觉但有 11 次误拒答,集中在 multi-hop。