跳到正文
10月21日周三
  1. arXiv · cs.AI49

    SAPD:无需环境交互即可从 Agent 经验中学习

    SAPD(Step-Advantage Policy Distillation)是一种从离线轨迹学习训练 LLM 智能体的方法,它将多轮轨迹拆解为单个决策上下文做 on-policy 蒸馏,并引入相对步骤优势信号稳定训练,全程无需新的环境观测或多轮交互。在 ALFWorld、WebShop 和 Search-based QA 上的实验显示,SAPD 在不同教师配置下均提升性能,比 SFT 缓解灾难性遗忘,每个训练步速度比在线 OPD 快至少 4.7×。代码即将开源。

  2. arXiv · cs.AI20

    POC-VLM:物理工况引导的视觉-语言匹配方法用于工业管道系统空化诊断

    研究者提出物理工况引导的视觉-语言匹配方法 POC-VLM,用于工业管道系统的空化诊断。该方法将样本具体运行变量融入候选空化文本构建物理语义描述,通过时频条件文本自适应模块与声学响应对齐,并在决策层融合基于 K 近邻的物理工况先验。在三个真实空化数据集上,POC-VLM 持续优于代表性数据驱动、多模态及领域专用诊断方法,并在不同采样率、噪声水平和观测时长下保持稳健表现。

  3. arXiv · cs.AI17

    VISH-ASR:面向 Speech-LLM 上下文 ASR 的 Viterbi 引导热词选择

    研究提出 VISH,一个免训练、即插即用的热词预选框架,通过在帧级 CTC 后验上直接验证候选词的声学证据来支持 Speech-LLM 上下文 ASR。在五个 benchmark 上,M-VISH 的 Best-F1 较强学习式检索基线最高提升 11.7% 绝对值,并在 2,000 候选时将候选搜索延迟降低 75.2%。Bi-MVISH 则利用反向证据增强验证鲁棒性。

  4. arXiv · cs.AI32

    LLM 跨语言代码翻译中的幻觉:现象与缓解研究

    一项系统性实证研究分析了 LLM 在跨语言代码翻译中的幻觉现象。研究覆盖 3 个 benchmark 数据集、6 组语言对、7 个 LLM,人工标注了 13,919 个幻觉案例,并归纳出语义一致性冲突、事实知识冲突和项目上下文偏差三类分类体系。基于该分类,研究者提出 HaluCodeTran 缓解框架,结合基于 BM25 的相关翻译示例检索与分类感知的反思式精炼,为构建更可靠的 LLM 代码迁移工具提供实用基线。

  5. arXiv · cs.AI19

    面向正演与反演问题的带约束自动微分:可微图基隐式求解器

    研究者提出一个完全可微的、基于图的隐式求解器,将 PDE 数值优化中的大型方程组作为约束处理。该求解器在四类任务上完成评估:演化和静态问题的线性与非线性正演建模、估计方程系数与右端项的反问题求解,以及可学习的图粗化加速正演建模。其稳定性和可微性显著降低正演建模复杂度,尤其适用于地球物理等需要反问题求解的领域。

  6. arXiv · cs.AI10

    物理变量信息深度学习框架 PhyNet 用于工业流体输送系统的鲁棒故障诊断

    研究者提出物理变量信息深度学习框架 PhyNet,用于应对工业流体输送系统中异构采样条件下的鲁棒故障诊断。PhyNet 将物理变量作为全局运行约束、响应信号作为局部诊断证据,通过物理-响应交叉注意力机制实现无需严格时间对齐的交互。在包括三个真实空化数据集和一个公开两相流数据集的四项基准上,PhyNet 在所有评估指标中均取得最佳表现。

  7. arXiv · cs.AI45

    DPO 超参数景观的形态:测什么、如何随规模变化、以及何时不能迁移

    一项 arXiv 研究通过在同一模型族不同规模上进行密集网格实验,系统分析了 DPO 的学习率与正则化参数 β 等超参数随模型规模和更新步数的演化。研究发现最优学习率随模型大小变化、超参数不可跨数据集迁移,且验证损失与下游 benchmark 最优超参数仅弱相关。作者还指出短程候选训练可大幅降低调参成本,并公开了全部训练配置与评测结果。

  8. arXiv · cs.AI37

    CollabSciReM:通过科学感知奖励分解对齐大语言模型以进行科研对话

    论文提出 CollabSciReM,一个将会话级奖励分解为对话质量、科学严谨性和结构效率的目标条件奖励框架,用于对齐科研协作场景中的 LLM。配套的 SciQuality 基于约 300 篇留出论文、从六个维度评估多轮科研对话。在 8.62K 条合成科研对话上微调后,CollabSciReM 在四个 Llama 和 Qwen 模型上均优于通用奖励基线,等长下胜率 65.3%;专家盲评显示其幻觉回复更少、新颖性评分更高。

  9. arXiv · cs.AI34

    多模态基础模型在日文金融文档上的分阶段持续适配研究

    一项 arXiv 研究跟踪一个 8.4B 参数模型在日文金融文档上历经三个训练阶段的表现,在五个文本输入基准上评估后发现各阶段相互影响呈非加性:纯数学蒸馏会覆盖先前获得的金融知识,领域阶段修复多于新增内容。跳过阶段的消融虽最利于领域知识,却损失数值推理增益,因此最佳 checkpoint 取决于任务本身。

  10. arXiv · cs.AI49

    LLM 安全中的极性盲:否定、反义词替换与对抗性框架的系统研究

    一项研究提出“极性盲”漏洞:LLM 在经历语法否定或反义词替换等极性翻转后无法识别有害意图,从而绕过安全护栏。该研究使用 260 条提示、覆盖 10 个 SOTA LLM 和 3 种语言,发现多数受测模型存在此问题,最脆弱模型的平均危害分达 4.12(0-5 危害量表)。该效应跨越不同否定系统存在,表明这反映的是语义鲁棒性的更广泛局限,而非特定语言或语法问题。

  11. arXiv · cs.AI31

    MMEnterprise-Bench:面向演化多模态记录的企业智能体评测基准

    研究者推出 MMEnterprise-Bench,包含 1,613 道基于模拟协作项目中演化多模态记录的问题,覆盖证据推理、冲突消解和不可回答三类任务。对 10 个闭源与开源多模态 LLM 的评测显示,最强模型在证据存在跨来源或时间冲突、或跨越多张图像时仍表现吃力。增大检索预算或换用更大检索器能提升证据召回,但不一定转化为更高的回答准确率。

  12. arXiv · cs.AI46

    ACE-Compression:以能力为中心评估压缩后的大语言模型

    ACE-Compression 是一个以能力为中心的大语言模型压缩评估框架,从程序推理与约束执行、知识基础与真实性、社会认知与情感理解、人格一致性与风格稳定性四个维度考察压缩后模型的能力存续。对来自六个开源权重 LLM 的 35 个以上压缩 checkpoint(涵盖量化和剪枝)的分析显示,压缩会重新分布能力:粗粒度、局部、表层信号往往保留,而细粒度、长尾、依赖上下文的能力变得脆弱;量化在能力保留上始终优于剪枝。部署者可据此按应用所需能力画像选择压缩方法。

  13. arXiv · cs.AI30

    Quantum-JEPA:用量子 Born 先验构建潜在动作 JEPA 世界模型

    研究者提出 Quantum-JEPA,一个使用条件量子 Born 先验学习未来表征分布的潜在动作 JEPA 框架。在 D3IL 基准上,模型能从同一起点生成多条越障路线,其经典与量子先验实现相比变分基线提升了预测有效性与分布保真度,且无需指数级规模的 categorical 输出层。团队还在真实 QPU 上验证了训练后先验的推理可行性,并测试了含读出噪声的有限采样 parameter-shift 训练。

  14. arXiv · cs.AI21

    强化学习训练的 Pointer Networks 如何在无人机配送路由中增强跨规模泛化

    一项以带容量约束的 CVRP 为代理的研究,分析了基于注意力的 Pointer Networks 在问题规模变化时解质量退化的三个因素:节点密度变化、注意力分散和均值池化图上下文稀释。熵基注意力缩放将 CVRP20-to-CVRP100 的性能差距缩小 1.41 个百分点,新提出的置换不变图上下文聚合方法在 CVRP100-to-CVRP20 上提升约 0.9 个百分点。结合两者的方法选择器在全部 9 个已见训练-测试对和 9 对中 8 个未见规模对上降低成本,最高提升 3.2%。

  15. arXiv · cs.AI19

    HypTI:基于双曲几何感知的表格-MRI 多模态特征融合痴呆检测框架

    研究者提出 HypTI,一个在双曲空间中融合临床表格评估与 MRI 扫描的多模态痴呆检测框架。该方法用可学习 Lorentz 原型建模表格数据的层级关系,并用 ROI 引导的多尺度表征学习捕捉脑区解剖模式,再通过自适应融合模块动态整合多模态嵌入。在 OASIS-3 数据集上的实验显示,该框架相较代表性方法取得较强性能。

  16. arXiv · cs.AI7

    APRIL:面向呼吸音领域增量学习的歧义感知专家路由

    APRIL 是一个无需样本回放的呼吸音分类领域增量学习框架,基于冻结的 BEATs 主干,通过继承并隔离低秩专家与多级原型路由器实现新领域适配。在 ICBHI 与 SPRSound 基准上,APRIL 正、反领域序列分别达到 64.4%、65.4% 和 83.1%、82.2%,为对比持续学习方法中最高,平均遗忘率在所有协议下低于 1.0%。

  17. GitHub · 3D 生成新仓库34

    VeriContest:面向 Rust + Verus 可验证代码生成的竞赛编程 Benchmark 开源

    HIPREL-Group 开源可验证代码生成 benchmark VeriContest,基于 Rust 与 Verus,当前包含 1,006 道题目(722 道 LeetCode、284 道 Codeforces),每题配有形式化规范、judge 通过的 Rust 代码及 Verus 验证过的证明。数据集完整发布在 Hugging Face(Gax-c/VeriContest),另有固定 300 题的 VeriContest Lite 子集;仓库现已开放 Model 与 Agent 两个赛道的提交,以 pull request 形式进行,支持 SpecGen、CodeGen、ProofGen 和 End2End 四种评测。论文配套版本(arXiv:2605.08553)的主要评测使用 946 题范围。

  18. GitHub · 3D 生成新仓库13

    DOA-CGAN:基于条件生成对抗网络的抗干扰 DOA 估计方法(附代码)

    研究者提出 DOA-CGAN,一种通过条件生成对抗网络提升 DOA 估计抗干扰能力的方法。模型采用无监督生成器学习滤波,从输入信号协方差矩阵中剔除干扰分量,训练后将生成器作为滤波器接入经典 DOA 估计算法。数值仿真显示该方法可有效缓解干扰攻击对 DOA 估计的影响,代码已在 GitHub 开源。

  19. Hugging Face Blog66

    Ai2 发布 FairStress 基准,测出 LLM 决策公平性中的隐性不对称

    Ai2 发布 FairStress 基准,用 300 个真实两难决策场景、扩展后超 1300 万测试用例,测量大语言模型在不同人口身份下的决策稳定性和解释差异。实验发现存在反刻板印象的过纠,模型在对抗性前缀下更容易放弃有利于多数群体的正确决策,匹配前缀下向少数群体切换的概率高出 8.8 到 42.4 个百分点;对 BBQ 的对比显示评测提问和打分方式会改变测得的偏见方向。

    推荐理由:不止测最终选择,还用对抗性前缀测决策稳定性,揭示了用固定选项打分的旧基准可能漏掉的反向过纠现象。

  20. GitHub · 去对齐工具与仓库30

    deepseek-coder-6.7b-instruct 量化 PEFT 自动修复 Java 缺陷的复现研究仓库(WahidSaeed/peft-code-eval)

    这是一个 MEng 论文的复现包,实证研究 4-bit NF4 QLoRA、8-bit、16-bit bf16 LoRA 三种位宽与 LoRA rank(r ∈ {8, 16, 32})在微调 deepseek-coder-6.7b-instruct 修复 Java 缺陷时对正确性、GPU 显存、速度和能耗的权衡。实验基于 CodeXGLUE Code Refinement(10,000 训练 / 1,000 验证 / 1,000 测试对)和 HumanEvalFix(164 Python + 164 Java 缺陷),在单张 24 GB GPU 上进行。目前数据管线和指标已验证,训练与评测脚本仍在开发中。

  21. GitHub · 灵魂体仓库9

    优化 LLM 在多任务环境中的上下文推理:仓库即将发布

    一个用于论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》的 GitHub 仓库已创建,论文正投稿 COAI 2025 审稿中,作者为 John Smith 等。论文提出优化策略以增强 LLM 跨多任务的上下文推理能力,实验结果显示在动态环境中具有更好的适应性。仓库代码、benchmark 结果、预训练模型检查点和文档标注为"即将发布"。

  22. GitHub · 灵魂体仓库41

    udg-catalogue:基于 DeepSeek V4-Flash 的超弥漫星系(UDG)自动化 ETL 目录流水线

    GitHub 上的 udg-catalogue 项目用 DeepSeek V4-Flash 自动筛选 arXiv 天体物理论文并提取超弥漫星系(UDG)测量值,发布包含 1,927 个天体的交叉匹配目录,可通过 Plotly 3D 地图和 Streamlit 仪表板浏览。557 篇论文被筛选,90 个(4.7%)天体具备全部六个参数,五次完整运行的 API 总成本为 US$4.32。项目明确标注为原型,数值未经人工核对,使用前需对照 source_papers 中的原始论文并引用原论文。

  23. GitHub · 灵魂体仓库21

    llm-adaptive-learning:动态环境下大语言模型自适应学习策略(ICML 2025)

    GitHub 开源仓库 llm-adaptive-learning 发布了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现,使 LLM 能在动态环境中实时调整参数和行为,且无需完整重训即可持续学习、避免灾难性遗忘。该方法在 shifting topics 上将性能从 72.3% 提升至 89.7%(+17.4%),在 temporal changes 场景提升 +19.1%,项目采用 Apache 2.0 许可证开源。

  24. GitHub · 灵魂体仓库10

    enhancing-llms:用高级微调技术提升 LLM 在领域任务上的性能

    GitHub 仓库 tonystark202609/enhancing-llms 发布了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验,探索超越传统方法的高级微调策略和领域适配技术。该方法在 GLUE 上达 92.5%(基线 84.2%,提升 +8.3%),SuperGLUE 上达 89.3%(基线 76.8%,提升 +12.5%),并优化训练流程以加快收敛。项目采用 MIT License 开源,附训练与评测脚本。

10月20日周二
  1. GitHub · 3D 生成新仓库22

    GitHub 开源研究仓库 EAR-RAG:证据感知自适应检索与选择性查询恢复

    GitHub 新仓库 EAR-RAG 探索证据感知自适应检索策略,已实现查询分析路由、确定性证据评估 ESA 和有界恢复流程,尚未实现 LLM 生成。现有环境和全新安装均在 Python 3.12.4 上通过 244 项测试。初步 20 题 HotpotQA 检查未见提升:路由后 local-support recall@5 为 75%,低于固定词法检索的 87.5%。

  2. Reddit · r/LocalLLaMA53

    DLite 论文提出面向 Agentic AI 的免历史投机解码框架

    一篇论文提出 DLite,一种面向 agentic 工作负载的免历史投机解码框架,直接复用目标模型的上下文隐藏状态做局部投机预测,不维护历史 KV cache。论文指出智能体场景下现有 draft 模型接受长度最多下降 80%,DLite 达到 2-6 的接受长度,最高超越 DSpark 70%,并配套两阶段训练策略;arXiv 链接 https://arxiv.org/abs/2610.23787,代码见 GitHub 和 HuggingFace。

  3. Reddit · r/LocalLLaMA58

    REMEMORY 论文提出残差记忆 token 用于上下文压缩

    REMEMORY 论文提出一种神经记忆网络,在文本摘要之外生成有界的软记忆 token,帮助冻结的 LLM 近似使用完整历史时的续写效果,相当于沿序列维度的残差连接。在 SummHay 上仅用 5.2% 的输入位置即接近全上下文联合分数,Qwen3.8-27B 与 GLM-5.3-Flash 在长程 Agent 基准上一致提升,并在 BrowseComp 和 Terminal-Bench 2.1 上显著减少重复工具输出与工具错误。arXiv: https://arxiv.org/abs/2610.11287,GitHub: https://github.com/fudan-generative-vision/Remory

    推荐理由:论文给出用软记忆 token 补充文本摘要的上下文压缩方法,并附 SummHay 与长程 Agent 基准数据,可复现。

  4. Reddit · r/LocalLLaMA59

    FlashMask-3 论文发布:掩码感知分布式注意力在 H100 上较 FlashMask 提速 45–141%

    FlashMask-3 论文发布,提出掩码感知的 Hopper 内核与分布式注意力扩展,基于 FlashAttention-3 的 TMA/WGMMA 流水线实现三角色 warp specialization,并支持零通信掩码定位、稀疏感知负载均衡与计算通信重叠。单张 H100 在 12 种掩码、4K–128K 上下文下,achieved TFLOPs 较 FlashMask、FlexAttention、MagiAttention 提升 45–141%、34–71%、2–44%;上下文并行度 4–32 时吞吐较 Megatron-Core CP ring 等基线提升 1.80×–3.71×;在 128 张 H100 上训练 118B-A14B MoE 的 128K 端到端场景中吞吐提升 7.3–11.0%。

    推荐理由:论文给出了跨 12 种掩码和 4K 到 128K 上下文的实测对比数据,读者可以据此评估该分布式注意力方案的实际收益。

  5. Reddit · r/LocalLLaMA47

    论文解读:COUNT 通过统计 n-gram 计数在主机内存上实现扩展与免训练适配

    论文提出 COUNT(Counting Offline Unlocks N-gram Transformers),将预计算的 n-gram 计数存于主机内存,无需新增可学习参数即可构建 n-gram 嵌入。在固定算力预算下,为 1B 参数 LM 添加 COUNT 预训练,验证损失提升相当于多花 57% 算力;还可在推理时换用领域语料的 n-gram 计数表,免训练适配新任务。

  6. GitHub · 灵魂体仓库36

    Matlab2PythonLLMBenchmarker:用本地 LLM 评测 MATLAB 转 Python 代码的基准项目

    一个基于 Inspect (inspect-ai) 的个人基准项目,测试小型本地 LLM 将 MATLAB 代码翻译为 Python 的能力,在作者自己机器上运行,模型由 llama.cpp 的 llama-server 提供。主模型为 OLMo 3 7B Instruct,对比模型为 OLMo 3 7B Think(均为 Q8_0 GGUF),答案键由 GNU Octave 生成,评测指标包括通过率、失败模式、校准度(Brier 分数)和歧义处理。五个试点任务、评测框架和 Inspect 集成已构建并测试完成,尚未在模型上正式运行。

  7. GitHub · 3D 生成新仓库46

    Spatial-Intelligence-Handbook:跨 embodiment 空间智能手册开源仓库

    GitHub 新仓库 Spatial-Intelligence-Handbook 把 manipulation、driving、aerial、marine 等不同 embodiment 下的 3D 空间表示、传感器与部署取舍做横向对照。仓库含 foundations/、crossing/ 等 9 个目录,153 篇 foundations 文章、133 个 dissection 文件,Atlas 索引 3,665 条记录,按 problem/representation/sensor/paradigm/time 五轴组织,并以 CC BY 4.0 开放,生成与核验沿用 DeepSeek。

  8. GitHub · 去对齐工具与仓库18

    DDI-334:334 药物药物相互作用预测基准的代码与结果仓库

    GitHub 开源 DDI-334 基准的代码与结果,该基准基于 TWOSIDES 与 DrugBank 重叠构建,含 334 种药物,用于比较 Molecule/Relation/Document 信息源及 LLM 零样本与微调预测在 transductive(S0)和 inductive(S1、S2)划分下的药物相互作用预测表现。仓库提供复现论文全部数字、表格和图表所需的汇总指标、运行配置、loss 曲线及 S0/S1/S2 划分文件,涵盖 GAT、SchNet、ChemBERTa、BioBERT 等编码器、QLoRA 微调(6 模型 x 3 epochs)、KGE 对比与商业 LLM 对比实验。

  9. GitHub · 去对齐工具与仓库42

    EUROPA Alignment:面向 OpenEuroLLM 36 种语言的开源 AI 对齐与安全评测协议

    EUROPA Alignment 是一个可检查的开源评测框架,用相同的 16 个安全场景在 OpenEuroLLM 优先的 36 种语言上共生成 576 个测试项,支持 hosted API、Ollama 和 Hugging Face Transformers 推理。它采用确定性评分加独立命名 LLM judge(0–4 分),关键安全失败会封顶该项得分,并覆盖拒绝校准、隐私、公平性、prompt injection 和 Agentic 控制等维度。v0.1 为翻译审查试点,35 个语言包仍待母语者审核,不构成安全认证。

  10. GitHub · 灵魂体仓库38

    paper-reading-notes:面向大模型安全研究者的论文阅读笔记仓库

    GitHub 仓库 Zhang123d/paper-reading-notes 面向大模型安全研究者,记录越狱攻防、因果发现和可解释性方向的论文笔记,当前收录 3 篇。笔记分别解读 Causal Analyst(NDSS 2026)、TRAP(arXiv v1,2026)和 Best-of-N Jailbreaking(NeurIPS 2025),每篇按方法理解、实验证据与开放问题三层展开,并区分个人评价与论文结论。

  11. arXiv · cs.AI51

    BetaMem:面向具身智能体的可追溯长期记忆框架

    论文提出 BetaMem,一个通过工作、空间、实体、情节、经验、程序六层记忆构建可追溯长期记忆的具身智能体框架,用监督微调与强化学习结合教师验证来训练记忆操作。以 Qwen3.5-9B 生成记忆,在 M3-Bench-robot 得 48.08%、LoCoMo 得 92.08%、OpenEQA EM-EQA 得 72.6%、EgoLifeQA 得 62.4%;训练使写入契约通过率从 50.9% 升至 86.2%,每条存储动作的输出 token 减少 47.3%。

  12. arXiv · cs.AI23

    鲁棒 (PO)MDP 的奖励目标:与(部分可观测)博弈的保律等价性

    该 arXiv 论文研究鲁棒部分可观测马尔可夫决策过程(RPOMDP)在四种奖励目标(折扣和、长期平均、有限与无限时域累计奖励)下的求解问题,涵盖期望值、mean-variance、CVaR 和 entropic risk 四种风险度量。作者提出统一框架,证明 (s,a)-rectangular RPOMDP 与部分可观测随机博弈(POSG)在保律风险度量下可通过 logspace 归约相互等价,并由此推出新的计算复杂度结果:求解 (s,a)-rectangular RMDP 与求解 simple stochastic games 一样难。