语言模型中方向敏感的扰动影响如何共享失败机制（arXiv 论文解读）
一项 arXiv 研究提出方向敏感、相对读出的语义脆弱性分析框架，用储备-传输模型在 Qwen3-32B 和 Gemma 4 31B 上预测保留任务含义的改写导致的失败，并可向 ReClor 迁移。匹配干预实验表明方向本身携带标量几何之外的因果信息，但失败很少跨选项顺序持续，说明共享预测规律与依赖上下文的方向性效应并存。
全部 AI 动态
新闻、仓库与研究，按时间排列。
arXiv · cs.CLAI 评分4646 arXiv · cs.AIAI 评分2929 Solvent：面向多步逆合成的长程推理
研究者推出 8B 大语言模型 Solvent，将长程推理扩展到多步逆合成任务。通过两轮后训练课程，模型学会交替进行迭代合成规划、外部可得性验证与自适应路线修订。经 RL 带来 2.1 倍性能提升后，Solvent 在四个 benchmark 上取得 61.86%，超过中规模语言模型和已有搜索式逆合成系统，媲美前沿万亿参数 LLM。
arXiv · cs.CL精选AI 评分5353 DMAIC-Bench 提出：评测 LLM 智能体在多阶段分析任务中的自我克制能力
arXiv 论文 DMAIC-Bench（arXiv:2610.32305）提出评测 LLM 智能体自我克制能力的基准，用 97 个种子任务、覆盖四个行业 15 个工业案例，基于 Lean Six Sigma 的显式统计前提构建，配反事实变体以区分合理停止与盲目停止。对六家提供商 13 个模型的实测显示，GO 决策路由准确率平均 92%，NO-GO 决策仅 19%；盲测专家评审估计 11 个被审计智能体的报告在 47% 的 NO-GO 决策点上基于无效证据行动，区间 31% 至 61%。论文含 54 页 14 图，代码与数据已公开。
推荐理由：论文用反事实变体把自我克制从任务完成度里拆出来测，给出 GO/NO-GO 路由准确率的量化差距，可作为评估智能体决策的新方法参考。
arXiv · cs.AI精选AI 评分6363 MemCryst 论文提出记忆与技能双向学习的终身上下文适应框架
Tianyi Xu 在 arXiv 发布 MemCryst 框架，通过记忆与技能的双向学习实现终身 LLM 智能体的上下文适应，冻结语言模型，任务结果只调整记忆记录的检索影响而不改写内容。在覆盖具身控制、长文档阅读、对话、数学和代码的十个场景中，MemCryst 在七个已报告对比中领先；ALFWorld 上联合服务成功率为 63.17%，高于仅用记忆的 59.83% 和仅用技能的 50.50%。
推荐理由：论文提出记忆与技能双向学习框架，并用跨十个场景的对照数据说明联合服务的增益，方法可迁移到终身智能体设计。
arXiv · cs.AIAI 评分2929 Part-DINO：用图像结构补充 DINO 特征以实现部件发现
Part-DINO 是一个免训练部件发现框架，将低层图像分割得到的边界与 DINO 的语义特征结合，先按边界划分图像区域、池化区域内 DINO 特征再聚类发现部件。论文指出 DINO 特征因 ViT 刚性 patch 网格导致跨边界 patch 熵更高、分配置信度更低，边界模糊。在 CUB、CelebA、PartImageNet-OOD、PartImageNet-Seg 四个基准上，Part-DINO 超越免训练基线，并与弱监督、无监督方法保持竞争力。
arXiv · cs.CLAI 评分2929 “否定”并未在翻译中丢失：多语言 LLM 否定表示的因果分析
一项 arXiv 研究对六个开源 LLM 在英语、法语、越南语和中文中的否定表示进行因果干预分析，发现否定表示可被因果控制且在各语言间高度共享。从一种语言提取的对比激活方向可在其他语言中诱导或移除否定，且每个模型仅需一个 SAE 稀疏特征即可跨语言控制极性。干预还能泛化到另外四种语言及基于 FLORES-200 的句子，数据和代码已开源。
Reddit · r/LocalLLaMAAI 评分5252 
LatentLoop 论文提出非对称算力分配的循环 MoE 模型
论文提出 LatentLoop，通过压缩循环 MoE 模型第一次访问的序列、在第二次保留全分辨率并重新分配算力扩大隐藏层维度，降低验证 NLL。在 1.3B–7B 的 15 个配置上，拟合 NLL 1.988 时相对 vanilla MoE 和循环基线分别节省 19.0% 和 7.9% 计算量，并在九个基准的 0-shot 和 5-shot 设置下平均分更高。代码、权重与项目页已开放。
arXiv · cs.CLAI 评分3737 停止头真的能节省循环语言模型的计算量吗？
一项预训练至 1.3B 参数的实验发现，循环语言模型中的 halting head 存在两个问题：混合所有迭代的训练无法预测 token 真正停在哪次迭代，需加入偏向早停的强惩罚才有效；且按 batch 生成时序列要等到最慢 token 停止，无头的模型在同等成本下表现几乎相当，平均迭代次数指标会高估节省。作者建议报告 token 实际迭代数、停止阈值与 batch size，并提出训练前可预估收益上限的测试。
Reddit · r/LocalLLaMAAI 评分3030 
Meta Expert 论文：跨层专家共享提升 MoE 存储与检索效率
论文提出跨层共享的 Meta Expert，替代主流分层架构中各层独立的 Local Expert，以降低专家间冗余。在激活数量与专家粒度不变的情况下，模型仅用 70-80% 的专家即可匹配 Vanilla MoE 的性能，并取得更低的 cross-entropy loss 和更高的下游任务准确率；理论分析还显示 Meta Expert 为隐状态提供了更灵活的残差通路，提升信息检索效率。
Reddit · r/LocalLLaMAAI 评分4545 
ReaDy：用循环状态作为动态上下文加速混合线性注意力大模型投机解码
论文提出投机解码方法 ReaDy，首次利用混合线性注意力（HLA）模型的循环状态为每个草稿位置检索位置特定上下文。基于 DSpark 骨架与两阶段适配策略，在数学、代码生成与对话七项基准上，ReaDy 以 Qwen3.8-27B 在单块 NVIDIA B200 上实现平均 3.16× 解码加速，吞吐较 DSpark 提升 7.97%，接受长度提升 8.50%，代码已在 GitHub 和 HuggingFace 开源。
Reddit · r/LocalLLaMAAI 评分4949 
PN-Mix：面向长输出 LLM 推理的 Pair-Norm 引导混合精度 Key Cache 量化论文
论文提出 PN-Mix，一种面向 RoPE decoder-only LLM 的混合精度 key cache 量化方法，通过 RoPE 通道对的 query-key pair-norm 乘积识别显著通道对，在 prefill 阶段分配一次高精度并在解码全程复用。2.26-bit 平均精度下，PN-Mix 在推理、代码生成和 AIME 基准上达到与 2.32–2.39 bit 先前方法相当或更好的准确率，且可平滑降至 1.5 bit。
arXiv · cs.CLAI 评分2424 DIAL-S2ST：为同声传译学习推理时延控制
研究者提出 DIAL-S2ST，一种用于同声语音到语音翻译模型的后训练方法，通过 lookahead 预测的自蒸馏和单个 LoRA adapter 实现推理时可调的延迟控制。在基于 Hibiki 的法语到英语翻译实验中，仅 10 小时源语音即可完成适配，在质量与延迟之间取得良好权衡，且无需成对目标数据或奖励计算。
arXiv · cs.CLAI 评分3333 头维度影响语言模型的长上下文检索能力
一项 arXiv 研究发现，在固定模型规模下，更宽的注意力头维度能提升长上下文检索性能，而预训练损失和短上下文非检索任务几乎不受影响。更宽的头拥有更高比例的检索头，将更多参数用于检索。即使冻结注意力模块的投影权重，继续预训练中检索性能仍随头宽提升，表明宽头还促进了嵌入向量和 MLP 等组件的有效适配。
arXiv · cs.CLAI 评分3939 SOPO：用于片段级幻觉检测的苏格拉底引导策略优化
研究者提出多轮 RL 框架 SOPO，通过教师模型在 rollout 中依据 ground truth 提供间接提示的苏格拉底反馈机制，缓解片段级幻觉检测中的奖励稀疏问题，并以 Turn-based Advantage Scaling 惩罚冗长偏置。SOPO (4B) 在 RAGTruth 上达到 SOTA，超过 GPT-5 等专有模型和标准 RL 基线，在四个域外基准上的平均分高于 GRPO，与 CAPO 互有胜负。1.7B 和 4B 模型及训练、评估代码已开源。
arXiv · cs.CL精选AI 评分5757 SWE-Shift 基准发布：评估编码智能体在执行中环境变化下的表现
论文提出 SWE-Shift，一个评估编码智能体在任务执行中途遭遇代码、依赖或需求变更时表现的基准，包含 120 个场景、12 类变更族，并在 9 个干预位置评测。17 个编码智能体系统的 Shifted 成绩均低于 Clean 基线，GPT-6 Astra 从 67.35% 降至 24.79%，配对成功率 20.34%；工具/会话变更与过期证据在所有系统上配对成功率为零。论文地址 https://arxiv.org/abs/2610.32196v1
推荐理由：这个基准专门测任务执行中途环境被改动时的表现，17 个系统的成绩都下降，暴露了保留已有工作与刷新证据的短板。
Reddit · r/LocalLLaMAAI 评分3030 
论文 PACE：线性注意力模型循环状态的 4-bit 周期性通道对齐量化
论文提出 PACE，一种后置（post-hoc）4-bit 循环状态量化方法：它每隔若干 token 才做一次舍入并缓存中间 token，并按列共享量化 scale、对误差最大的 head 保留 8-bit。在 4B 到 35B 的四个混合模型上，混合 4/8-bit 的 PACE 以约三分之二的内存达到与 8-bit DAMP 相当的表现，全 4-bit 版本在同等内存下得分高于 Q-Mamba，并保持解码加速。
arXiv · cs.CLAI 评分4545 收集日期元数据可重定向大语言模型的时间性问答
一项 arXiv 研究发现，仅更改语料的收集日期元数据即可改变五个开源 LLM 在时间性问答中的答案：在 595 个 Wikipedia 页面上，交换前后两天的提问日期使后向引用 exact match 下降 37.6-51.4 个百分点。七种提示词变体（包括明确忽略收集时间的指令）均无法消除该效应；加入思维链可将 Qwen3.5 的损失从 30.1 降至 11.1 个百分点。该诊断可将元数据影响与证据变化分离，为时间性 QA 输入提供实用审计方法。
arXiv · cs.CLAI 评分3131 DIVA：让 LLM 学会"值得再问"的决策知情信息获取方法
研究者提出 DIVA，一种免训练的 LLM 信息获取方法，让模型基于证据的决策价值决定何时查询、何时停止，避免为无法改变决策的"检查"付费。其变体 DIVA-U 进一步考虑 LLM 对证据影响概率估计的不确定性。在 4 个领域、20 个 LLM 上，DIVA-U 的 regret 低于所有 LLM 基线；在各检查可靠性已知的合成场景中，DIVA 将最佳基线的 regret 降低 75%。
GitHub · 灵魂体仓库AI 评分1515 enhancing-llms：用高级微调技术提升 LLM 在 GLUE 与 SuperGLUE 上的性能
GitHub 仓库 enhancing-llms 发布了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现代码，探索面向特定领域任务的新型微调方法。其方法在 GLUE 上取得 92.5%（较基线提升 8.3%），在 SuperGLUE 上取得 89.3%（提升 12.5%）。仓库含训练、评估脚本与实验配置，采用 MIT 许可证开源。
GitHub · 灵魂体仓库AI 评分1919 llmcrimeprofilinghost 开源 LLM 犯罪侧写预测项目：基于 Court Listener 案例与 Claude 摘要的研究代码
llm-crime-profiling 项目公开全部源代码与数据，测试 AI 在给定犯罪情景时对嫌疑人信息的预测能力。案例通过 Court Listener API 获取 2025-08-10 至 2026-08-09 间的法院判决书，随机抽取 600 个案例（后期筛至 165 个），并借助 Claude 对长短不一的判决书进行摘要。
arXiv · cs.CL精选AI 评分5757 北海道大学医院发布院内封闭网络临床智能体平台 LLENS 并完成评估
论文报道了在北海道大学医院封闭网络内部署的临床支持智能体平台 LLENS，使用 8 块 NVIDIA H200 GPU 与开放权重模型 Kimi K2.6（约 1 万亿参数），自 2026 年 9 月 14 日起在医院网络运行。Kimi K2.6 从 3 个候选中选出，在 2026 年日本医师执照考试模拟中得 480/500 分；在 180 道基于医院文档的问题上，交互式工具访问准确率 97.2%，高于固定检索的 81.3%（差距 15.9 个百分点，95% CI 10.9-21.3）。
推荐理由：在医院封闭网络内部署开源大模型智能体的完整实测，对比了三种检索方式的准确率，方法可迁移到其他内网场景。
arXiv · cs.CLAI 评分1717 尼泊尔政治文本选举承诺挖掘：首个金标准数据集与模型比较研究
研究者构建了首个尼泊尔政治文本金标准数据集（Cohen's kappa = 0.777），并用机器学习、深度学习和 LLM 自动提取与分析选举承诺。fastText-LSTM 深度学习模型表现最佳（accuracy 0.914、macro F1 0.913），LaBSE-LR 为最优机器学习模型（accuracy 0.897），三个受评 LLM 中 Qwen3-8B 在 few-shot 设置下取得 0.848 macro F1。成果已集成进移动应用，借助 GAI 可视化承诺以提升透明度与问责。
arXiv · cs.CLAI 评分3232 多语言 P(True) 自我评估中问题、回答与验证器语言的解耦研究
一项研究在六语言因子设计中用 10 个开源模型（3B-14B）检验多语言 P(True) 自我评估，基准为 LSQA、MMMLU 和 TriviaQA。三种语言各自影响评估的不同方面：对齐回答与问题或验证器语言可提升区分度但不改善校准，仅验证器语言就可使校准误差变化达 0.04；未经验证的评分器会把 MMMLU 英-印地语准确率差距从 0.198 缩到 0.038。因此多语言置信度结果只在三种语言均报告且评分器经过验证时才具可比性。
arXiv · cs.CLAI 评分3232 SyncPro：面向主动式流视频理解的推理与响应同步框架
研究者提出 SyncPro，一个同步双流框架，用 Inner 与 Response 两条分支分别负责证据跟踪和面向用户的响应，两条分支共享因果历史且可独立激活，使响应能与进行中的推理并行。该框架通过 189K 双流样本进行监督微调和轨迹级强化学习训练，在三个主动式 benchmark 上提升了响应时机和回答准确率。
arXiv · cs.CLAI 评分4242 Shorter Is Not Cheaper：声明式动画规范与自由代码生成 LLM 解释的受控对比
一项预注册的受控研究发现，声明式动画规范并非生成 LLM 交互式解释的更廉价方案。测试涵盖三个 Claude 模型（360 个任务）与 Qwen3-14B（240 个任务），规范输出虽短 25-48% token，但推理开启时仅最大 Claude 模型总输出显著下降，且无模型生成显著更快。可靠性方面，自由代码一轮修复后 95-100% 有效，而 Qwen3-14B 的规范仅 33% 有效、17% 通过全部语义测试。
arXiv · cs.CLAI 评分3636 从噪声检索到决策证据：silver-evidence 示例提升 RAG 上下文学习
研究提出 silver-evidence demonstrations，用 LLM 生成的目标条件证据摘要替换 ICL 示例中的原始检索段落，以过滤长噪声上下文中的干扰信息。在 EI 2.0、SciFact、合成政策检索和 HICRIC/IMR 四个数据集上，该方法在三个数据集上超过等规模的纯 gold ICL，在所有有标注数据集上提升证据 F1，并在四个数据集上的平均标签准确率均高于 InstructRAG 式 ICL。
arXiv · cs.CLAI 评分4141 RVL-CDIP 数据质量系统性审计：约 10.5% 文档标签错误
研究者对文档分类标准 benchmark RVL-CDIP 进行系统审计，发现其 400,000 份文档中约 10.5% 标签错误，35.2% 的测试集在训练集中存在重复或近似重复。移除页面识别码后 SOTA 模型损失 11 个百分点，图像模型在分布外文档上损失 16 至 28 个百分点。团队重训 25 个模型并发布去标识化修正语料，重训的 13 个模型准确率提升 0.9 至 2.9 个百分点，最高的 LayoutLMv3 达 96.5%。
arXiv · cs.CLAI 评分4848 现代文本嵌入模型的几何盲区：情感信息可解码但度量不可分
arXiv 论文发现，2021–2026 年的 11 个冻结文本编码器普遍存在解耦现象：线性探针能以最高 91.3% 准确率从嵌入中解码句子情感极性，但余弦相似度的极性分离边际仅 0.003–0.064，Qwen3-Embedding-4B 探针准确率 91.3% 而 retrieval MAP 仅 64.3。作者提出 SISE 方法，用 0.13M–0.69M 参数的监督对比头在 CPU 上数秒训练，可将 retrieval MAP 提升最高 +26.0，但 128 维头在 STS-B 上损失 38–41 个 Spearman 点，属于专精化而非免费收益。论文同时开源 CPU 可复现管线和 Attribute Alignment Gap 诊断工具。
arXiv · cs.CLAI 评分3535 EDWARD-NMT：面向神经机器翻译的弹性维度、自适应路由与双一致性 MoE 架构
研究者提出 EDWARD-NMT，一种面向神经机器翻译的 MoE 编码器-解码器架构，支持“一次训练、随处部署”。它结合 Matryoshka 式弹性维度、带可学习阈值的自适应 sigmoid 路由和双一致性目标，可在推理时提取一系列子网络。在 PhoMT（En-Vi）、WMT-14（En-De）和 OPUS-16 等基准上，完整模型匹配或超过强 MoE 基线，子网络无需再训练即可稳定优于同等规模的稠密 Transformer。该工作已被 EMNLP 2026（Findings）接收。
arXiv · cs.CLAI 评分4242 研究大语言模型（LLM）在多重文化身份线索下的价值选择偏差
一项 arXiv 研究测试了 LLM 在同时收到国家身份与语言身份线索时的文化价值表现。在 World Values Survey 选择题探测中，语言线索对答案的影响约为显式国家线索的三倍，但方向偏离对应国家的分布；在 160 万条开放式回答中，点名国家能弥合 30-44% 与模型自身回答的差距。研究认为国家与语言线索应作为不同信号分别评估，而非可互换的文化代理。
arXiv · cs.CLAI 评分1717 用文本与多模态 ICL 让大语言模型预测音乐 Valence 与 Arousal
研究提出用大语言模型的 in-context learning（ICL）改进音乐 Valence 和 Arousal 连续预测：小任务模型先给出初始预测，再用辅助数据集示例修正。在 MER60 全集作为 held-out 测试集上，基于歌词和音频描述的文本 ICL 用 80 shots 将 valence R² 从 0.110 提升到 0.427，含原始音频的多模态变体仅用 10 shots 达到 0.346。这种免训练方法提供了一种推理时的音乐情感预测策略。
arXiv · cs.CLAI 评分1818 IndoNutriQA：印尼语临床营养问答基准发布
研究者发布 IndoNutriQA，一个由专家整理的印尼语临床营养问答基准，包含 911 个基于真实临床营养报告构建的问答对，涵盖营养护理流程（NCP）的 8 种标准化问题类型。数据集支持生成式、抽取式和检索增强 QA 及零样本/少样本 LLM 评测，并报告了 IndoBERT、mT5、RAG 等基线和对 8 个当代 LLM 的评测结果。LLM-as-judge 评分在事实性与完整性上接近人类专家，但在临床安全性上不可靠。
arXiv · cs.CLAI 评分2525 时间同步端到端 ASR 模型的搜索空间复杂度与效率系统性比较
一项发表于 IEEE SLT 2026 的研究系统比较了 CTC 与 neural transducer 端到端 ASR 模型在不同剪枝策略和语言模型配置下的搜索空间复杂度与效率。研究发现这些模型多数时间只需小搜索空间，但在不确定时段假设数会出现临时峰值；基于分数的剪枝可动态适应模型不确定性，显著降低实时率（RTF）。结果指出了低固定 beam 剪枝的局限，并为端到端 ASR 的高效搜索提供了实践指南。
arXiv · cs.CL精选AI 评分5353 arXiv 论文提出记忆感知奖励模型，学习 LLM 记忆使用的人类偏好
一项 arXiv 研究（arXiv:2610.31272）收集了 87 名参与者约 1,000 条成对偏好判断，发现基于记忆的 LLM 回复并不总是比无记忆回复更受用户偏好，部分场景用户反而强烈偏好后者，自动评估器也更偏向使用记忆的回复。论文提出的记忆感知奖励模型达到 72.8% 的偏好预测准确率，超过现有基线，主张将记忆使用的评估与优化目标对齐到用户偏好。
推荐理由：论文用用户自己的对话和记忆做偏好判断，指出记忆加入并不总被用户偏好，并给出可复用的记忆感知奖励模型方法。
arXiv · cs.CLAI 评分2828 CoWriter：引导方法论与协同的人机共创写作
研究者推出 CoWriter，一种主动式智能体写作方案，将认知科学中的人类专家合著方法引入人-LLM 协同写作全流程。探索性用户研究显示，相比标准 LLM 基线，用户的智能体成功互动多 2.2 倍，表达个人观点和文档掌控感更强，外部评审认为成文更具叙事等“人味”特质。
arXiv · cs.CLAI 评分2929 语言 Agent 中记忆的价值：一个决策论框架
一项 arXiv 研究提出决策论框架，刻画语言 Agent 中记忆从原始历史到持久状态、使用及有代价恢复与修订的价值链路，并以避免任务损失的单元度量价值。基于成本感知模拟条件与五个反例，论文揭示信息时序、检索访问、反馈与需求不确定性的作用，并指出零互信息的指针也能降低精确恢复成本。研究还在 LoCoMo 等诊断任务上展示保存、使用与度量方面的失败，给出记忆分配与恢复选项保留的可检验原则。
arXiv · cs.CLAI 评分4848 Cola2：连续语义压缩与平衡离散生成协同的层级语言建模
研究者提出层级语言生成框架 Cola2，将连续语义压缩与离散文本生成解耦并协同优化，通过无辅助损失的负反馈控制压缩率，结合重建与生成监督学习紧凑潜在表示。约 2100 亿 token 训练量的五项下游任务实验显示其具备竞争力且未饱和的扩展性；在 3460.3 亿源 token 下，未收敛 checkpoint 在八项任务上平均达 60.10，并在 HellaSwag 和 StoryCloze 上超过 Llama-3-8B，而后者预训练预算超过其 43 倍。
arXiv · cs.CL精选AI 评分5555 arXiv 论文提出 StateTrack-Bench 基准刻画长对话中的状态完整性崩塌
研究者在长程对话中定义并量化“状态完整性崩塌”，即模型记住了约束却不再对后续轮次执行，并发布 StateTrack-Bench 基准。七个模型快照的严格联合保持率在 62.4% 到 100.0% 之间，forked recall 审计显示 88.6% 的失败属行为漂移而非遗忘；Structured State Anchoring 方法在不可变约束上最多提升 24.4 个百分点。论文已被 EMNLP 2026 主会接收。
推荐理由：论文把长对话中记住了约束却不再执行的现象量化命名，88.6% 失败属行为漂移的发现对评测设计有参考价值。
arXiv · cs.CLAI 评分4141 SurveyGraph：基于方法-实体知识图谱自动生成学术综述
SurveyGraph 是一个围绕方法-实体知识图谱（MEKG）的学术综述自动生成框架，支持核心论文发现、混合大纲与证据门控叙事合成。图感知检索在八次运行中将召回率较扁平词法基线提升近一倍（p = 0.004），语义证据门 AUC = 0.75；160 句人工审计中 80.6% 获得引用支持。该工作已被 EMNLP 2026 Findings 接收。
arXiv · cs.CLAI 评分2424 CrisiLangs：面向危机预警生成的多语言资源发布
研究者发布 CrisiLangs，将英文危机预警数据集 CrisiText 扩展至意大利语、保加利亚语、德语和希腊语，共涵盖 411 个场景中的 1,000 个事件、五种语言合计 5,000 条事件-预警消息对。微调多语言模型在 ROUGE-L、BLEU 和 BERTScore 上各语言均优于 zero-shot 基线；人类偏好实验显示低解码温度在五种语言中最受青睐。