跳到正文
10月17日周六
  1. arXiv · cs.CL28

    相反前提翻译出相同结果:面向多语言常识题的源条件诊断方法

    arXiv 论文提出一种源对比诊断方法,用于检验多语言推理评测中翻译前提是否忠实:反转英文前提极性后分别翻译,统计目标语言输出是否完全相同。在 71 组配对题目、五种目标语言、三个翻译 checkpoint 的测试中,Swahili 在每个 checkpoint 的 710 对样本中分别出现 63、113、67 次精确碰撞;在以人类参照校准的阈值下,round-trip NLI 仅通过 NLLB-3.3B 113 次碰撞中的 3 次,LaBSE 则通过 78 次。每次碰撞都证明至少存在一处不忠实翻译,但无法定位具体在哪一侧。

  2. AIHOT · 精选27

    Anthropic 调查揭示公众与员工对 AI 影响的预期鸿沟

    Anthropic 于 2026 年 8 月对美国成人代表样本(N=10,980)及其员工进行的一项调查发现,双方对 AI 现有能力的判断相近,但对进展速度的预期分歧巨大。91% 的员工预期 AI 能在 2030 年前做出诺贝尔级发现,而公众仅 39%;员工平均预期 AI 能完成其 75% 的当前工作,美国工人仅给出 28%。

  3. Nielsen Norman Group · ux 研究54

    NN/g 实测合成用户与 604 名真人受访者:结论相同但答案多样性大幅缩水

    Nielsen Norman Group 用 Synthetic Users 平台生成 120 个合成受访者,回答与此前 604 名真人参与的 UX 术语调查相同的开放式问题。两个数据集得出相同主结论,84% 的合成受访者使用 UX 相关术语,高于真人约 70%,差异具统计显著性。但真人用了超过 50 种不同称呼,合成受访者只收缩到约 12 种,呈现 mode collapse,且在职业分组内同样存在,如 93% 的合成产品经理使用 UX 术语而真人中仅 44%。文章提醒合成用户研究不能替代真实用户研究,只适合用来生成假设或检查大方向。

  4. Reddit · r/LocalLLaMA70

    ORL 扩散语言模型加速方法开源:单张 RTX 5090 跑出 2,788 tokens/s

    团队发布 ORL(On-Policy Residual Learning)研究并全量开源,用 on-policy 残差学习和 Adjacent Entropy Contraction 让扩散语言模型在更少前向传播内收敛更多 token。配合自研推理引擎 dlmrt,LLaDA-2.1-mini + ORL 在单张 RTX 5090 上达 2,788 tokens/s(NVFP4),DiffusionGemma 26B MoE 达 7,708 tokens/s(8× B200);QwenDLM-4B 端到端吞吐提升约 6.9×,HumanEval pass@1 从 82.9% 升至 89.6%,单 H100 上 1,298 tokens/s,快于 DFlash 的 746 和 EAGLE3 的 405。

    推荐理由:原文给出各模型吞吐、HumanEval 前后对比和与 DFlash、EAGLE3 的同精度对照,可复现的代码和权重也已开放。

  5. GitHub · 灵魂体仓库39

    marimo 交互式讲解 Llama-2-7B 的 Harry Potter 近似遗忘

    JacobBowie 用 marimo 响应式笔记本制作了 Eldan & Russinovich (2023)「Who's Harry Potter?」论文的交互式讲解,展示 Llama-2-7B 在约 1 GPU 小时的微调后遗忘 Harry Potter,而预训练原本需约 184,000 GPU 小时,通用 benchmark 分数基本不变。笔记本经 WebAssembly 完全在浏览器运行,首次加载需 30 到 60 秒,在线地址为 jacobbowie.com/unlearning。文中也指出该方法已被 NPO、SimNPO、RMU 等新方法超越。

  6. Reddit · r/LocalLLaMA69

    Nick Cammarata 长文挑战神经网络超position叙事:Qwen3 32B 约90%神经元有单一主职

    Reddit 用户转述 Nick Cammarata(前 OpenAI)的长文,称神经网络并非纠缠的概念混合体,早期混乱源于弱架构和有缺陷的可视化工具。文中估计 Qwen3 32B 约90%神经元有单一主职,类似结论延伸至 Kimi K3 万亿参数规模,且规模越大特征分离越清晰;若成立,可直接研究模型内部而非先造解码器,对对齐研究意义重大。文章含交互可视化,研究 Qwen3 32B、Qwen3.6-35B-A3B、Kimi K3 及卷积视觉模型。

    推荐理由:转述者点出了这篇可解释性长文与主流超position叙事的分歧所在,并提示文中的交互可视化可直接浏览。

  7. arXiv · cs.AI36

    重新思考 Vanilla Pixel Diffusion Transformer 的设计空间:MFlow 与 ConvRefiner

    该 arXiv 论文提出 MFlow,一种在 x₀-预测与速度预测之间自适应插值的扩散模型参数化,在 ImageNet、UCF-101 视频和大规模文生图上取得竞争力或更优的性能,并发现模型容量越大越偏向速度预测。针对像素扩散 Transformer 普遍存在的高频缺陷,作者进一步提出 ConvRefiner,在冻结扩散主干的前提下用对抗损失轻量后训练,恢复生成图像的高频统计且保持 FID。

  8. arXiv · cs.AI65

    arXiv 论文提出行为耦合:微调一个行为会连带引出另一个行为

    arXiv 论文(arXiv:2610.23847)提出行为耦合概念,即在文档上同时描述两种行为后训练,再微调引出其中一种行为会导致另一种行为同步出现。实验显示耦合还能跨文档集组合传递,使突发不良行为难以溯源,作者认为防范后续微调的意外影响可能需要超越模型当前行为的评估。

    推荐理由:论文给出微调意外行为的形成机制和耦合可以跨文档组合的证据,解释了为什么突发不良行为难以溯源。

  9. arXiv · cs.AI58

    arXiv 论文提出 SEER-Repro 基准,LLM 智能体复现 77.4% 的医学研究论断

    arXiv 论文 arXiv:2610.23845 提出 SEER-Repro 基准,收录 20 篇基于美国 SEER 癌症数据库的已发表论文及其复现所需数据资源。作者构建的 AI 智能体成功复现 2,190 条原子论断中的 77.4%,并通过智能体分析管线识别分析选择、提出替代方案后重跑分析,在 9.5% 的完全复现发现中标记出可能有实质影响的分析选择,交由专家复核。

    推荐理由:论文给出了基于 SEER 的复现基准和 77.4% 原子论断复现率等具体数据,可用于评估 LLM 智能体做科学复现的现阶段水平。

  10. arXiv · cs.CL58

    DiscoveryRSI 提出递归自改进框架学习发现有价值假设并发布 DFM-Bench

    研究团队提出 DiscoveryRSI 框架,通过多智能体进化搜索构建假设树,用假设信用优化、harness replay 和 rediscovery 三种机制递归学习,并配套发布 DFM-Bench 评测假设质量与累计研究进展。四个生命科学领域中,两轮自改进后假设质量从基线 4.86 升至 5.39,可证伪性和数据可解性提升最大;专家评审中 DiscoveryRSI-27B 在假设重要性与论断合理性上高于 GPT-6 Luna,与模型截止日期后发表研究的对应率为 6.3%,高于 GPT-6 的 2.5% 和 Claude Opus 5 的 2.3%。

    推荐理由:论文给出假设树自改进框架和假设质量的量化指标,可看到自动评测与专家评审两层验证结果。

  11. arXiv · cs.CL38

    ReDiST:面向推理知识蒸馏的学生条件化推理轨迹构建方法

    arXiv 论文提出 ReDiST,一种面向证据丰富推理的学生条件化轨迹构建与知识蒸馏框架。该框架从学生自身尝试出发,结合证据修订正确草稿、借助验证答案修复失败草稿,并由冻结的学生匹配 reader 依据答案恢复率和验证答案概率筛选候选轨迹。在问答 benchmark 上,ReDiST 超越仅答案监督、原始轨迹及所评估的轨迹选择与改写基线,且源任务与跨基准迁移表现排名可能不一致。

  12. arXiv · cs.AI52

    arXiv 论文提出自建实验室 SBL,可按科学目标自主搭建实验室配置

    论文 arXiv:2610.23826 提出自建实验室(SBL),给定高层次科学目标即可自主设计、配置并运行实验室设置,补建实验布局、数字孪生、机器人技能和实验流程。系统已在不同机器人和 setups 上演示,从单一工作站扩展到多机器人协作实验室,并通过真实世界量子点合成实验完成端到端验证。

    推荐理由:论文提出自建实验室概念,把人类角色从配置自动化设备转为只给科学目标,实验灵活性问题有了新解法。

  13. arXiv · cs.CL38

    接受不等于速度:免训练有损投机解码中的长度膨胀现象

    一项 arXiv 研究指出,有损投机解码的松弛验证虽然每轮平均多接受 1.34× 的 token,但会通过延长推理轨迹使补全长度膨胀 1.54×,抵消表面加速。对十二组 target-drafter 组合的评测显示,部分规则降低验证轮数时准确率显著下降,原因之一是持续推理耗尽输出预算。因此评估解码效率还须同时报告补全长度与验证轮数。

  14. arXiv · cs.CL26

    PRSR:通过成对残差子空间移除改进 LLM 多语言免训练文本嵌入

    研究者提出 Paired-Residual Subspace Removal(PRSR),一种免训练的推理时干预方法,从多语言平行句构建成对残差、逐层估计低秩子空间并加以抑制,将 LLM 表示导向更语言无关的语义空间。该方法在 MTEB 和 MMTEB 上覆盖 18 种语言的 200 多项单语评测,以及英语与 200 多种语言间的跨语 bitext 挖掘中,均一致优于现有免训练基线。

  15. arXiv · cs.AI35

    超越 SAE:ConSDL 用稀疏编码实现一致的概念发现

    一项 arXiv 研究提出 Consistent Sparse Dictionary Learning(ConSDL),用逐样本稀疏编码替代 SAE 的标准线性编码器,解决训练种子不同导致字典不一致的问题。在 16 个合成设置中 ConSDL 实现近乎完美的字典与系数恢复;在 4 个视觉与语言设置中,相比 6 个 SAE 基线平均,字典一致性提升 17.6%、系数一致性提升 35.9%,达到跨种子一致性的 SOTA。

  16. GitHub · 3D 生成新仓库30

    gp5-hierarchical-music-generation:分层结构与编曲协同的多轨音乐生成研究仓库公开

    GitHub 新仓库 gp5-hierarchical-music-generation 公开了一项分层结构与编曲协同的多轨音乐生成方法研究,任务为给定 4 小节前文及编曲计划、续写后 4 小节。仓库包含 showcase 作品、和弦对照、27 份 .pt 模型权重(含 SHA256 索引)、核心代码 modules/ 与 results/ 中的实验 JSON,可通过 python verify_package.py 做完整性核验;查看作品无需 GPU,小显卡不运行训练或神经采样。本次发布不含学校登记表和带签名结项报告。

  17. arXiv · cs.AI54

    FUTRANSFORMER 论文:在 Hopper 上用 FP8 prefill 与 INT4 decode 加速 Llama 风格推理

    Wei Wang 在 arXiv 发布 FUTRANSFORMER,一个面向 NVIDIA Hopper GPU 的 Llama 风格 Transformer 推理 CUDA 实现,prefill 用 FP8、decode 用 INT4 权重和 INT4 KV-cache,并采用块对角 Hadamard 变换降低缓存量化误差。

    推荐理由:论文给出 Llama 推理在 H100 上 FP8 prefill 与 INT4 decode 的具体实现和量化精度代价,数字可核对、方法可参考。

  18. arXiv · cs.AI49

    DrugHarness:面向计算药物发现的可进化智能体框架

    研究团队推出 DrugHarness,一个面向计算药物发现的可进化智能体框架,集成超 80 种科学操作,并可通过条件化技能进化持续改进。在 MolBench 上,无进化状态下其亲和力比较准确率超过 MolClaw-CC 报告结果 10.8 个百分点;技能进化使 Qwen 的亲和力比较准确率从 62.2% 升至 81.1%。在 HPK1 前瞻性研究中,合成化合物的细胞 IC50 达 14.19 nM,较最佳输入参考提升 2.64 倍效力。

  19. arXiv · cs.CL51

    DLite:面向智能体 AI 的免历史投机解码框架

    arXiv 论文提出 DLite,一种面向智能体工作负载的免历史投机解码框架,直接复用目标模型的上下文隐藏状态做局部预测,无需维护历史 KV cache。针对智能体长上下文中 draft 模型接受长度最高衰减 80% 的问题,DLite 用轻量级 sequential head 恢复块内因果依赖,并配合两阶段训练策略,实验中达到 2-6 的接受长度,最高比 SOTA 方法 DSpark 快 70%。

  20. Reddit · r/LocalLLaMA35

    为什么朴素余弦路由会失效:在 768D 嵌入空间上用吸收马尔可夫链实现 <2ms 零 token 意图分诊(无需唤醒 LLM)

    在 768D 嵌入空间上用吸收马尔可夫链(B=(I-Q)^-1*R)替代朴素余弦相似度做意图分诊,将查询投影到 60 节点领域流形后直接在 GPU 求解,无需唤醒 LLM。JevBench 测试中 Tier 0(AMC + EmbeddingGemma2)平均 22ms p50、11 项全对,短提示词缓存候选下约 1.5ms;4 层级联平均 46ms p50(308ms mean),240 项 100% 命中。

  21. arXiv · cs.CL32

    VocalGrad:评估音频语言模型的声学感知能力

    研究者推出 VocalGrad 基准,以时间变化方向的二元分类任务评估大型音频语言模型(LALM)感知低层声学变化的能力,避开高层推理与语义理解的干扰。结果显示,人类标注者准确率高,而最先进的 LALM 接近随机水平。线性探测分析发现两种失败模式:部分类别的相关信息保留在内部表征但未被语言模型头利用,另一些则随模型层数加深线性可解码性逐渐下降。

  22. arXiv · cs.CL16

    意大利立法过程:一个统一结构化数据集

    研究者用经人工标注验证的 LLM 抽取流程,把意大利议会非结构化文本转为带日期的有序事件(法案提出、委员会审议、全会审议、批准等),构建了覆盖 1985 至 2026 年、第 IX 至 XIX 届议会全部 5346 部法律、共 101413 个事件的数据集。该数据集可用于计算法律与立法研究及过程导向的数据科学方法。

  23. arXiv · cs.CL22

    弥合学术数据中的语言鸿沟 II:提升中文姓名的性别推断

    研究者针对汉字与拼音两种形式的中文姓名开发性别推断模型,包括输出 0-1 性别分数的回归模型与三分类模型,训练数据来自中文物理出版物的姓名样本,由 11 位母语者标注。回归模型 RMSE 为 0.09、R² 为 0.85,分类模型 macro-AUC 达 0.97;拼音场景通过音译与频率加权聚合汉字预测,并附歧义分数。在对比 Namsor、GPT 和 Claude 三种工具时,模型与人工标注一致性最高,能对 APS 期刊作者样本中每个姓名给出性别,而现有拼音方法有 20%-100% 无法分类。代码与数据已公开。

  24. arXiv · cs.AI41

    超越 LLM:面向心理建模、模拟、演化与可解释性的心理世界模型框架(MWM)

    研究者提出心理世界模型(MWM)及其实现 Multi-Branch Mental Evolution Architecture(MMEA),显式构建主观世界、建模认知与心理状态交互,并模拟受历史经验塑造的持续心理演化。MMEA 在 DynToM 和 RecToM 上分别取得 96.48% 和 94.00% 准确率,超过主流 LLM 和专门 ToM 方法,并在心理状态与行为预测、长序列预测、隐式心理状态推理上分别提升 28.7、39.3、16.6 个百分点。

  25. arXiv · cs.CL36

    识别研究同源性还不够:LLM 医学证据核验中过度采信同试验报告

    一项 arXiv 研究发现,LLM 在医学证据核验中能正确识别同一临床试验的多篇发表,却在汇总证据时过度采信同试验报告。基于 14 个经来源审计的临床试验族和五种模型条件测试,GPT-5.5 在每个溯源任务族中 10/10 次识别调用正确,但 5/5 次汇总调用均过度采信;Qwen3-4B 与 Ministral-3-8B 的选定条件呈现同样反差。加入研究分组指令后,GPT-5.5 的过度采信从 4/5 降至 0/5。

  26. arXiv · cs.AI24

    Neural Expansion:解释深度神经网络泛化能力的统一机制

    一项 NeurIPS 2026 接收的研究提出 Neural Expansion,通过输入空间中方向选择性射线覆盖的扩张来刻画深度神经网络的泛化。框架用 Generalization Intervals(GIs)量化训练样本周围预测保持稳定的方向特定区域,实验发现训练会逐步扩张射线覆盖,尤其沿低 Jacobian 奇异值方向。该几何机制可解释正确分类、对抗样本乃至误标注和分布外样本,为现有全局理论提供补充。

  27. arXiv · cs.CL32

    LLM 写作的认知成本:基于阅读时间的人机文本对比研究

    一项研究用基于人眼动数据训练的 RoBERTa-RT 模型,对比 496 篇人类文章及其 LLM 改写版本的预测阅读时间。结果显示,LLM 改写文本更短、总预测阅读时间略低,但单词层面的预测阅读时间更高,伴随用词更长更少见、词汇多样性更高、上下文可预测性更强。这表明 LLM 写作可能重新分配阅读负担:减少文本量,同时增加单字词的处理成本。

  28. arXiv · cs.AI29

    GLOBE:在生成式搜索中用结构化智能体记忆优化电商产品

    GLOBE 是一个智能体框架,通过不断演化的分字段行为手册存储优化知识,让语言代理在生成式搜索的电商产品优化中持续自我改进。每轮由 Editor 应用行为并根据排名反馈、Reflector 转化为行为更新,Moderator 去重、Curator 提交更改并停用有害行为。实验显示结构化行为优于整体式提示词优化,且在未见过的品类上依然有效。

  29. GitHub · 去对齐工具与仓库42

    hallucination-probes:基于 Qwen2.5-7B-Instruct 隐层状态的大模型幻觉跨域检测工具

    开源项目 hallucination-probes 用 Qwen2.5-7B-Instruct 全部 29 层 × 3584 维的末答案 token 隐层状态训练幻觉检测器,标签由 BLEURT-20 ≥ 0.5 判定,在多个 QA 数据集上训练并在未见过的 held-out 数据集上评测。工具提供 SALA、MLP、fusion 等方法,支持层池化、PCA 降维与多种损失函数,输出 AUROC 等指标,并可通过 hprobes predict 对新样本打分。

  30. arXiv · cs.CL37

    VISTA:从少量问卷答案推断潜在用户价值以引导 LLM

    VISTA(Value-Informed Steering and Targeted Acquisition)从用户的完整或部分问卷答案推断潜在画像,通过 hypernetwork 映射为对冻结 LLM 的用户特定引导干预。在 Food2D、World Values Survey(WVS)和 PrimeX 上,VISTA 匹配或超越 in-context 画像,且不增加 prompt token。在 WVS 上仅询问 6% 的问卷即可保留 94% 的全量历史增益,而标准自适应测试最多保留 42%。

  31. arXiv · cs.CL51

    arXiv 论文评测 Qwen3-TTS 语音克隆的条件方式、域外表现与失败模式

    一篇 arXiv 论文系统评测 Qwen3-TTS 两种克隆接口(ICL 与 X-Vector),对比 Chatterbox、XTTS-v2 和 F5-TTS,覆盖朗读、会议、情感和空管无线电语音,使用十八项客观指标、LLM 评审与听感测试。结果显示两种接口各有优势,ICL 音色更准但对短参考转写错误敏感;语音域差异解释的方差是系统选择的四倍;Qwen3-TTS 可懂度和音高占优但韵律落后,现有反欺诈对策无法识别其克隆音频,空管无线电语音对所有系统都失败。代码和音频已开源。

  32. arXiv · cs.AI30

    LLM 多智能体在医疗运营管理多准则决策中的可能与局限

    一项 arXiv 研究提出评估框架,检验 LLM 智能体生成的偏好能否作为医疗运营多目标优化的权重。实验显示,显式偏好会随诊所运营条件和角色不同而变化,但智能体间商议可能抹平差异,简单平均则可保留;隐式偏好则高度依赖选项呈现顺序。基于偏好不确定性的鲁棒加权求和优化模型在多数情况下会选出与平均权重不同的排程或配置,表明 LLM 偏好在用作优化权重前需经此类审计。

  33. arXiv · cs.AI44

    OwlSight:一个面向思维链(CoT)推理的全景监控器

    研究者提出基于 Factor 的 CoT 监控策略,通过在提示词中自定义监控需求,让单个监控器覆盖多任务,并支持细粒度与粗粒度两种 Factor 类型。据此开发的 CoT 监控器 OwlSight 基于 15,971 条推理轨迹的实验显示,其细、粗粒度表现分别超出通用 LLM 1.32-30.57 和 11.71-27.81 分,在 OpenAI 的 CoT 可监控性基准上达到 SOTA,且能泛化到未见模型的 CoT 并抵抗 Factor 改写、CoT 压缩与混淆。

  34. arXiv · cs.AI38

    TUPLE-Bench:评估与缓解类型化决策模型中的隐私-效用权衡

    研究者推出 TUPLE-Bench 基准,用于评估类型化决策模型的隐私泄露问题。在九个模型上,即便明确要求隐藏原因,91.88%-99.93% 的响应仍会泄露;完整输出对保留样本的恢复率达 62.85%-75.35%,仅用所选类别则为 51.04%-57.64%(50% 为随机水平)。论文还提出 workflow-constrained privacy quantization(WCPQ),在保持下游工作流成本的同时降低秘密恢复率。