S$^3$R：基于自稀疏投机解码的快速且忠实的 RL rollout 方法
研究者提出 S$^3$R（Self-Sparse Speculative Rollouts），用稀疏注意力起草 token、全注意力验证与精确投机采样生成响应，响应组保持稠密策略分布，无需单独训练 drafter。在长上下文数学推理任务上，S$^3$R 在 Qwen3 模型上实现 1.39x~1.35x 的端到端训练吞吐提升，任务性能相当，并在消融实验中保持训练稳定。
全部 AI 动态
新闻、仓库与研究，按时间排列。
arXiv · cs.CLAI 评分3939 arXiv · cs.AIAI 评分3737 冻结循环网络能否替代可学习记忆？部分可观测 RL 中的循环网络研究
一项 arXiv 研究基于 Reservoir Computing 与 Generalized Reservoir Computing 理论，用冻结循环网络加可训练非线性输出模块求解 POMDP。结果显示，冻结循环网络可支持数百步的记忆回溯，在多样任务中取得有竞争力的控制性能，可训练参数不到完全可训练对应架构的一半。这表明学习循环记忆模块并非总是必要，冻结循环网络是部分可观测 RL 简单且参数高效的强基线。
arXiv · cs.AIAI 评分4141 JANUS：用协同进化的世界模型增强长时程自主研究
JANUS 是一个长时程自主研究框架，通过协同进化的世界模型驱动 Predict-Verify-Evolve 循环，在执行前预测候选方案的价值增益、信息增益与探索效用，从而选择、优化或剪枝分支。反馈后经验被蒸馏为研究智能体技能、世界模型探索策略技能及协调协议，实现持续共同进化。在 MLS-Bench-Lite 和真实研究任务上的评估显示，JANUS 在进化效率和上限上均显著超越 SOTA 基线。
GitHub · 灵魂体仓库AI 评分5151 经验驱动 LLM 智能体综述配套仓库发布，收录 271 篇论文
xiaohuiyan 等人发布 awesome-experience-driven-agents 仓库，配套其综述 From Trajectories to Experience: A Survey of Experience-Driven LLM Agents（预印本即将发布），收录综述覆盖的 271 篇论文，其中 69 篇有公开代码。仓库将智能体经验分为轨迹级、语义级、程序级三种形式，按形成、组织、利用、维护四个生命周期函数组织条目，并覆盖评测基准与问答、软件工程、具身控制等七个应用方向。
arXiv · cs.AIAI 评分3232 AdaC-GRPO：用自适应课程学习攻克长程视觉数独推理
研究者提出自适应课程学习方法 AdaC-GRPO，并发布细粒度基准 FG-Sudoku，用于训练模型完成需要多步演绎推理的视觉数独任务。前沿 MLLM 在 9*9 这类长程依赖谜题上几乎全部失败，导致标准 RLVR 因奖励稀疏而停滞。AdaC-GRPO 通过在线 rollout 准确率追踪模型"最近发展区"动态构建训练批次，使 Qwen2.5-VL-7B 接近 Gemini-2.5-Flash 的表现，并弥补与 Gemini-2.5-Pro 62.2% 的准确率差距，方法在 InternVL-3.5 和 Qwen3-VL 上也得到验证。
arXiv · cs.AIAI 评分3030 RoleWorld：用功能角色抽象实现世界建模中的知识迁移
研究者提出 RoleWorld，一种符号世界建模方法，用可复用的角色原型和环境特定参数值作为功能角色抽象来表示物体在交互中的行为。teacher LLM 从交互轨迹中提取角色原型和可执行转移规则，并生成指导 actor LLM 决策的技能；在目标环境中无需 teacher，即可通过交互在线修正角色分配与参数估计，且不更新 LLM 参数。在 MARS benchmark 上的实验显示，RoleWorld 能在物体行为显著变化的环境间实现稳健泛化。
arXiv · cs.CLAI 评分3939 PreSTO：预测式子树预取加速 LLM Power Sampling
PreSTO 是一种预测式子树预取方法，通过批量预取未来 Metropolis–Hastings 提案来加速 PowerMH 采样器，且不改变其 MH 转移核。在 7 个数据集和 5 个基础 LLM 上，PreSTO 对 PowerMH、EntropyCut 和 MultiTryMH 分别取得中位 1.71×、1.91× 和 2.33× 加速，模型调用次数中位减少 3.9×，每次调用时长仅增至 2.1×。在 LCB V6 与 Qwen3.5-9B 上，预测式遍历规则比默认广度优先遍历再快 1.25×–1.37×。
arXiv · cs.CLAI 评分4848 TerminalHorizon：面向长程终端智能的 Agent 数据合成引擎
研究者推出 TerminalHorizon，一个全自动长程终端 Agent 数据合成引擎，从真实职业工作出发识别被环境合成预先完成的关键工作，并在同一目标下渐进扩展任务。基于该引擎构建 1.5K 任务环境，对 Qwen3.5-27B 做监督微调得到 TerminalHorizon-27B，在覆盖 coding-agent、真实生产环境 Agent 任务和通用推理的全部 12 个基准上取得显著提升。多组各给予 12 小时研究预算的 RSI 案例进一步验证了模型基于反馈持续实验并在最终交付中保留有效改进的能力。
GitHub · 去对齐工具与仓库AI 评分1818 LLM 多任务环境上下文推理优化研究仓库（spainricardo765199/optimizing-llms-contextual-reasoning）
该仓库将发布论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》的实现与实验代码，论文目前处于 COAI 2025 审稿中。论文提出优化策略以增强 LLM 在多任务间的上下文推理，实验结果显示其在动态环境中适应性更优。完整实现、实验配置、benchmark 结果、预训练模型 checkpoint 和文档均标注“即将推出”，尚未发布。
Reddit · r/LocalLLaMAAI 评分3535 
Stepped MoE：段级路由与可配置推理复杂度的统一弹性稀疏框架
论文提出 Stepped MoE，将弹性结构与稀疏门控统一，让单一 LLM 同时适应部署约束和任务需求，在推理时可细粒度控制精度-效率权衡。该模型可在 1、2、3、4B 参数间灵活切换，比对应稠密模型在知识密集型基准上高 2-5%，延迟与稠密模型相当，并通过参数共享节省设备磁盘空间。
arXiv · cs.CLAI 评分2525 SOAR：面向搜索智能体的源感知强化学习与精确信用分配方法
研究者提出 SOAR（SOurce-Aware Reinforcement learning），通过 Source-Aware Workflow 将推理拆分为外部信息与内部知识两条可观测流，并用 Source-Consistent Reward 引导策略演进，解决搜索智能体绕过外部检索、编造答案的问题。在 3B 和 7B 底座上，SOAR 分别超过基线 7.3% 和 5.4%，证据捏造减少 74.8%，提升了知识密集型基准上的表现与推理的可靠性。
arXiv · cs.AIAI 评分4646 TQS：面向编码智能体 SFT 数据筛选的结构化轨迹质量评分框架
TQS（Trajectory Quality Score）是一种针对编码智能体轨迹的结构化评分框架，直接作用于轨迹结构，无需 LLM judge，且可线性时间运行，从信息聚焦、意图-动作对齐和策略动态三方面刻画轨迹质量。基于公开语料库中 155,144 条成功轨迹按 TQS 排序并筛选子集微调，模型在 SWE-Bench-Verified 上持续优于随机或低分轨迹训练的模型。
GitHub · 去对齐工具与仓库AI 评分3434 rabbit0v0 发布 Beyond Coverage and Mutation：LLM 生成单元测试盲区分析研究代码
GitHub 上开源了评估 LLM 生成的 Java 单元测试行为盲区的研究代码，核心是 ObligBench 基准，包含 1595 个 Java 方法级任务：895 个高复杂度 treatment 函数和 700 个简单 control 函数。评测报告编译与执行结果并分类失败类型，对成功执行的测试衡量 Boundary-Value Adequacy、Control-Flow Adequacy 和 Oracle Strength 三项指标；公开源码包含 1585 个任务项目，其余 10 个因再分发条款未解决而暂缓分发。
GitHub · 去对齐工具与仓库AI 评分3030 LLMmind_project：测量预训练语言与视觉模型和人脑活动表征对齐的 Snakemake 流水线
LLMmind 是一个用 Claude Code 辅助编写的 Snakemake 流水线，通过最近邻图重叠衡量预训练语言和视觉模型的内部表征与 fMRI 人脑活动（200 个脑区的 per-stimulus ISC）的对齐程度。流水线支持 cosine、Pearson、Spearman 相似度，提供置换检验与超几何显著性检验，并计算模型-模型对齐和 Spearman 秩相关作为补充指标，输出热图、折线图等汇总图表。完整运行一次约需 31 小时。
arXiv · cs.AIAI 评分2424 VIGOR：场景程序中可验证的工业几何优化与修复
arXiv 论文提出 VIGOR，针对 LLM 生成的工业场景程序「可执行但不满足工程约束」的鸿沟，结合监督微调、基于执行的验证与分阶段几何修复。该工作构建了含 1,749 个可构建场景、每场景 94 项最终状态几何检查的数据集。VIGOR 达到 96.86% Complete Feasibility，Overall 得分 91.20，超最强基线 10.42 分。
arXiv · cs.AIAI 评分3535 面向 LLM 多智能体系统的能力感知编排方法
一项 arXiv 研究提出两阶段能力感知框架，自动编排 LLM 多智能体系统协作，根据 backbone 对当前 query 的能力动态调整角色激活与通信图。该方法在六个 benchmark 上平均得分 93.81%；对高能力 backbone 将平均准确率从 87.22 提升至 89.97，同时降低 36.26% 的 token 成本；对低能力 backbone 较现有方法平均再提升 4.58 分，且趋势在未见过的 backbone 上同样成立。
Reddit · r/LocalLLaMAAI 评分4545 
DLoop：循环式推测解码论文发布，多项推测解码方法提速 5%-41%
论文提出 DLoop，一种循环式推测解码方法，让轻量 draft 模型在置信时连续执行多个 drafting 阶段，再一次性验证累积的 token，减少目标模型的前向传播次数。配合 loop-aware 训练保持 draft 模型可靠性，在 EAGLE-3、DFlash、Domino、DSpark 等方法上实现 5%-41% 的 wall-clock 提速且解码无损，代码即将开源。
arXiv · cs.CLAI 评分2828 Neurograf v1：面向罗马尼亚语的首个端到端语言模型家族
研究者推出 Neurograf v1，一套从零训练的罗马尼亚语优先端到端语言模型管线，含 635 GB 语料 RoSfera（1.757 亿文档）、80k byte-level BPE 分词器、160M 至 6B 参数的五个 decoder-only 模型（共训练 131 billion tokens）、三个指令微调助手和两个对比训练嵌入模型。在 1,000 题 WWTBM 基准上，Neurograf-6B 在罗马尼亚语语境问题达 69.89% 准确率，Neurograf-3.2B 达 67.38%。该模型家族定位为实验性演示而非生产系统。
arXiv · cs.AIAI 评分3030 DP-MIND：面向百万 token 长上下文的差分隐私记忆引导推理框架
DP-MIND 是一个记忆引导框架，将差分隐私（DP）推理扩展到百万 token 级长上下文。该方法对输入进行本地扰动后逐块处理，用紧凑记忆跨序列保留任务相关信息，并通过强化学习在扰动输入上直接优化记忆构建策略，还借助本地去噪模块恢复被噪声破坏的答案片段而不暴露原始上下文。在多个长上下文 benchmark 上，DP-MIND 在可扩展性和效用上均优于现有 DP 及长上下文推理基线。
arXiv · cs.AIAI 评分1212 Foresight：面向路网轨迹的前瞻式生成建模
研究者提出面向路网轨迹生成的新范式 Anticipatory Generative Modeling 及其模型 Foresight。现有扩散模型等方法模拟位置序列，难以处理路口转向选择，甚至生成偏离路网的轨迹；Foresight 通过“预判—选择—更新—再预判”的概率循环，结合对通往目的地未来路径的前瞻来完成转向选择。实验显示 Foresight 胜过 SOTA 基线。
GitHub · 灵魂体仓库AI 评分1919 GitHub 开源仓库 enhancing-llms：用高级微调技术增强大语言模型（LLM）
GitHub 仓库 zaolala/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》，探索面向特定领域任务的新型微调方法。该方法在 GLUE 上取得 92.5%（基线 84.2%，+8.3%），在 SuperGLUE 上取得 89.3%（基线 76.8%，+12.5%）的结果。仓库包含源码、实验配置与 Jupyter notebooks，采用 MIT License 开源。
arXiv · cs.AI精选AI 评分5353 KnowForge 提出角色分工的多模态文档问答智能体流水线
KnowForge 论文提出按职能分工的文档问答流水线，包含知识点索引、只能检索的 Locator、桥接判断器、只能读文本图像表格的 Deep Reader 和格式检查合成器。自托管 Qwen3.6-35B-A3B 在 M3DocVQA 上达 F1 47.5，比 M3DocRAG 高 11.0，DeepSeek-V4-Flash 达 53.5；MultiHop-RAG 准确率 73.5，超过已发表最强 RAG 与 GraphRAG 的 71.2。消融显示把两个智能体合并反而损失 1.9 F1，论文开源了提示词、代码和三个基准的只读知识库。
推荐理由：论文用消融实验拆解各智能体角色的贡献，还验证了合并多角色反而掉分，方法可迁移到其他 RAG 流水线设计。
arXiv · cs.CLAI 评分2121 BenCoDiC：面向孟加拉语政治新闻语境的大规模网络欺凌语料库
研究者发布 BenCoDiC 语料库，包含从 100 个 YouTube 视频及其讨论中收集的 50,250 条孟加拉语政治新闻语境文本，公开可用。语料保留“标题—评论—回复”关系，采用九维星型模式组织，并经两层人工标注加专家核验，Fleiss' κ 与 Krippendorff's α 均为 0.86。Transformer 实验显示，加入对话上下文相比孤立文本分类带来小幅但一致的提升。
GitHub · 去对齐工具与仓库AI 评分2222 rajibdash 开源 LLM 驱动的电信 RAN 根因分析参考实现 LLM-enabled-RCA-for-RAN
GitHub 上的 rajibdash/LLM-enabled-RCA-for-RAN 是一个面向电信 RAN/5G/6G 网络的 LLM 根因分析（RCA）参考实现，灵感来自被 IEEE Wireless Communications Magazine 接收的论文，核心观点是 LLM 只有嵌入结构化、证据支撑的推理管线才有价值。仓库包含 SEKA-FT 框架说明、数据摄入、证据关联、RAG 式检索、根因推理与验证等模块，并提供了 TeleLogs/TelecomTS 上的实验结果和可直接运行的管线脚本与测试。
GitHub · 去对齐工具与仓库精选AI 评分6161 IIT Madras 提出 rubric-only 探针，质疑 LLM-as-a-Judge 基于评分标准推理的假设
IIT Madras CeRAI 团队（EMNLP 2026 论文配套 GitHub 仓库）检验 LLM-as-a-Judge 是否真的依据评分标准推理：仅用 rubric 文本训练的探针分类器就能预测 Qwen2.5-7B-Instruct 评审的结论，HealthBench 上平衡准确率达 0.80–0.88。反事实实验中，反转回答仅 37.7% 的样本对上评审如期翻转，反转评分标准时仅 16.8%（Gemma）/ 32.2%（LLaMA），并开源了完整探针、扰动与分析脚本。
推荐理由：IIT Madras 团队用只看评分标准的探针分类器复现判断结果，并给出反事实扰动数据，方法可复用。
Reddit · r/LocalLLaMAAI 评分5353 
EngramEdit 论文提出通过条件记忆实现大语言模型知识解耦更新
论文 EngramEdit 提出利用 DeepSeek Engram 类条件记忆架构解耦事实知识更新，在固定 Transformer 主干的情况下编辑事实。方法先计算使模型在多种表述下预测更新事实的目标记忆表示，再联合更新共享 n-gram 嵌入，并对高频复用嵌入的改动施以更强惩罚。实验显示编辑成功率接近完美，修订知识可泛化到未见表述和多跳推理，CoT 提示下准确率约为最强基线的三倍，无关知识与通用能力在事实更新累积时基本保留。论文与代码分别见 arXiv 2610.10533 和 GitHub、HuggingFace。
arXiv · cs.CLAI 评分2222 从 210 万小时广播音频构建芬兰语语音 SSL 模型：置信度过滤与架构对比分析
一项大规模芬兰语语音 SSL 研究从 210 万小时无约束广播音频出发，提出用 ASR 置信度作为预训练数据质量的代理指标。相比基于 LID 的过滤，该方法在训练集更小的情况下仍带来 3-7% 的相对 WER 提升。研究还在相同参数预算下对比了 Transformer、Macaron-Net、Conformer 和 E-Branchformer 四种架构，模型在 Base 规模和域外场景优于此前芬兰语 SSL 基线。
GitHub · 去对齐工具与仓库AI 评分3838 Manvendra Modgil 公开自主编码智能体“饱和陷阱”干预时机研究可复现性材料仓库
Manvendra Modgil（Modint Intelligence）在 GitHub 发布两篇配套论文的可复现性材料，研究情感/状态类运行时监控器为何无法为自主编码智能体选准干预时机（arXiv: 2606.04296）。论文 2 修正了审计发现的 Δt = 0 缺陷，说明已发表的"Saturation Trap"实为纯累加器结果。
GitHub · 去对齐工具与仓库AI 评分3030 hohoo-ai-lab：Java + LLM/RAG/Agent 的实验与教学仓库
GitHub 仓库 hohoo-ai-lab 用 Java 8 开展 LLM 调用、RAG、注意力机制等实验与教学，2026-09-29 起新示例统一改用 agnes-3.0-flash，历史结果保留原型号并单独归档。已发布 L1/L1v2 上下文位置试验（29 次尝试、24 次实测）、A1 事务式对话历史、KV int8 量化对照（36 组）等，其中 L1v3 的 2515 项自检与 60 项独立测试通过，真实请求为 0。仓库强调所有结论仅基于本地协议与归档产物，不宣称端到端 RAG 正确率或完整在线助手。
arXiv · cs.CLAI 评分4646 KV-Repurpose：一个评估非前缀 KV-cache 复用的测试平台
研究者推出 KV-Repurpose，一个基于 vLLM 的开源系统，用于开发和评估超越精确前缀的分段式 KV-cache 复用。在 20% 请求共享固定前缀的 Zipfian RAG 负载下、同样 30 GB 缓存容量时，其 token 级缓存命中率达 63.9%，远高于前缀缓存的 3.3%，并降低 TTFT；前缀缓存即便 1 TB 容量也仅达 17.9%。实验显示朴素分段复用在单文档问答与摘要上基本保持输出质量，但在跨文档推理上存在明显局限。源码以 Apache-2.0 许可开源。
arXiv · cs.CLAI 评分2222 CliQ-RRG：临床知识引导的疾病感知视觉-文本对齐，用于问答式放射报告生成
研究者提出 CliQ-RRG，一个两阶段放射报告自动生成框架。第一阶段用疾病感知视觉-文本对齐模块和 Prior-Guided Attention Module（PrAM）捕捉当前与既往扫描的多视图依赖；第二阶段通过 GraphRAG 检索引入图结构临床证据，并由大语言模型将其重组为带诊断摘要的问答（QA）对。在两个公开胸片基准上，该方法在词汇与临床指标上均优于已有方法，代码已开源。
arXiv · cs.CLAI 评分4949 ReTRAIL：面向长程智能体的回溯探索与演化框架
arXiv 论文提出 ReTRAIL 框架，让大语言模型智能体在长程任务中将环境回退到早期状态，同时保留有效进展并携带从放弃探索中习得的知识。该方法用 State-Anchored GRPO 和分支推进奖励训练共享策略。在 MineSweeper、Sokoban、ALFWorld 和 ScienceWorld 四个交互式 benchmark 上，仅添加回退原语收益有限甚至降低性能，而 ReTRAIL 能复用废弃分支的经验指导后续探索。
arXiv · cs.CLAI 评分3434 CoBe：会话式反事实文本编辑基准发布，前沿模型平均仅得 58.05%
研究者推出反事实文本编辑基准 CoBe，测试模型在对话式提示下零样本修改文本场景、同时保留未受因果影响事实的能力。基准含 2000 道题，覆盖医疗、科学与工程、商业及日常场景；前沿模型平均得分 58.05%，且常退化为关联式生成而非保留因果结构。性能与模型规模及输出 token 长度均不一致相关，表明问题可能源于训练目标而非模型容量不足。
arXiv · cs.CLAI 评分3333 RAMP：面向循环深度语言模型高效 prefill 的循环自适应混合精度方法
RAMP（Recurrent Adaptive Mixed Precision）是一种针对循环深度语言模型长上下文 prefill 的自适应混合精度方法。研究发现循环深度早期引入的量化误差会被后续更多循环步骤衰减，因此对低精度计算前置、末端恢复高精度。在最长 4K 上下文上，RAMP 在 NVIDIA H100 上实现最高 1.16x 端到端首次 prefill 加速，延迟降低 13.9%，同时保持接近全精度的质量。
GitHub · 灵魂体仓库AI 评分1212 LLM 多任务环境上下文推理优化：论文代码仓库（待发布）
GitHub 上的 "Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments" 论文代码仓库目前状态为待发布。该论文提出优化策略以增强 LLM 跨多任务的上下文推理能力，实证结果显示在动态环境中具有更优适应性，论文正在 COAI 2025 审稿中。仓库后续将放出完整实现、实验代码、benchmark 结果与预训练模型 checkpoint。
GitHub · 去对齐工具与仓库AI 评分2323 llm-adaptive-learning：ICML 2025 论文的 LLM 动态环境自适应学习实现开源
ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现代码以 Apache 2.0 协议开源在 GitHub。该方法支持实时参数调整、动态记忆管理与防灾难性遗忘，在多类动态环境中较基线 LLM 提升 16.8%–19.1%（如话题切换场景 89.7% 对 72.3%）。框架无需全量重训练，适用于聊天助手、内容推荐等场景。
GitHub · 灵魂体仓库AI 评分1616 开源仓库 enhancing-llms：用高级微调技术增强大语言模型
GitHub 仓库 spallaselvylt934743/enhancing-llms 发布了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验代码，采用 MIT 协议开源。该工作探索面向领域任务的新颖微调方法，在 GLUE 上从基线 84.2% 提升到 92.5%（+8.3%），在 SuperGLUE 上从 76.8% 提升到 89.3%（+12.5%）。
GitHub · 去对齐工具与仓库AI 评分99 优化 LLM 在多任务环境中的上下文推理：论文代码仓库（待发布）
该仓库将发布论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》的实现与实验代码，论文正在 COAI 2025 评审中，作者为 John Smith 等。论文提出优化策略以增强 LLM 在多任务间的上下文推理，实验结果显示其在动态环境中的适应性更优。仓库内容尚待发布，将包括优化策略实现、实验代码、benchmark 结果、预训练模型检查点及文档教程。
GitHub · 灵魂体仓库AI 评分2323 llm-adaptive-learning：ICML 2025 论文的 LLM 动态环境自适应学习实现开源
GitHub 开源了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现，让 LLM 在动态环境中实时调整行为。方法包含自适应参数更新、动态记忆管理、环境检测和防灾难性遗忘机制，无需全量重训练。实验显示在话题切换、新领域、混合上下文和时间变化四类环境中分别较基线提升 17.4%、18.1%、16.8% 和 19.1%，代码采用 Apache 2.0 许可证。
GitHub · 去对齐工具与仓库AI 评分1919 enhancing-llms：用高级微调技术增强大语言模型的开源仓库
GitHub 仓库 spanellisnikolaos564489/enhancing-llms 发布了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验，探索面向特定领域任务的 LLM 微调方法。其方法在 GLUE 上取得 92.5%（基线 84.2%，+8.3%）、在 SuperGLUE 上取得 89.3%（基线 76.8%，+12.5%）的结果，项目基于 MIT 许可开源，并提供训练、评估脚本与实验配置。
最多提供 50 页，更早的内容请使用搜索或主题页。