跳到正文
10月23日周五
  1. arXiv · cs.AI33

    大语言模型是否信任自己的解释?一项关于功能自洽性的研究

    一项发表于 IJCNN 2026 的研究提出“功能自洽性”实验框架,通过充分性、全面性与反事实性三项指标检验 LLM 自我解释与其实际预测是否一致。实验基于 IMDB 和 Steam 评论数据,覆盖 GPT-4o-mini、Gemma3、Granite8B 和 DeepSeek:GPT-4o-mini 在全部指标上符合预期,Gemma3 与 Granite8B 仅在充分性下保持一致,DeepSeek 变体则出现结构性偏差。结果表明解释可靠性因模型家族和规模而异,小模型自相矛盾,大模型过度敏感。

  2. arXiv · cs.CL59

    arXiv 论文提出模型与执行框架联合评测框架,解析 Agent 失败该归咎谁

    arXiv:2610.32483 提出评测 LLM Agent 执行框架(harness)与底层模型交互的框架,包含有效完成率(VCR)、Model-Harness Fit、Cross-Model Fit、交互残差和 Token Load 五项指标。研究在 6 个基准上评测 OpenCode、Codex CLI、Pi CLI、DeepAgents 四个框架与四个核心模型,加上两组原生固定组合,共 111 个评测设置、52,168 条轨迹;结果显示框架排名随模型和基准变化,OpenCode 跨模型表现第一,DeepSeek V4 Flash Preview 在共享四基准上保持较高的 Mean VCR。

    推荐理由:论文把 Agent 拆成模型与执行框架两部分联合评测,给出五项指标和 52,168 条轨迹的实测,可帮助读者理解框架排名为何随模型和基准而变。

  3. arXiv · cs.AI58

    arXiv 论文提出用低比特精度压缩语言模型 n-gram 嵌入表

    Stephen Chung 在 arXiv 发布论文,研究以低精度存储语言模型 n-gram 嵌入表以降低内存开销。在 nanochat、Llama、GPT-2 系列从零训练的模型上,4-bit 表节省约 75% 表内存,同时保留加表带来的验证损失改善的 99% 以上;对 DeepSeek-V4.1-Flash 和 Qwen3.8-Flash-Next 节省 47-55% 表内存,困惑度增加低于 1.2%。更低位宽性能下降更大,但短时微调可恢复大部分损失,将省出的内存换成更大表还能超越原全精度表的性能。

    推荐理由:论文系统比较了不同量化和位宽分配方案,给出从零训练与现有大模型两组数据,可帮助读者评估低比特 n-gram 表的实际收益。

10月22日周四
  1. arXiv · cs.CL54

    SPARE 提出基于路由熵的 MoE 分层剪枝稀疏度分配方法

    论文提出 SPARE,一种免训练、与 selector 无关的方法,用校准数据上 token 归一化 Top-K 门控权重的路由熵决定每层剪去多少专家,路由越分散的层剪得越激进,并用随机剪枝扰动界形式化该直觉。相同 selector 与预算下,SPARE 在 Mixtral、Qwen3 和 DeepSeek 模型上平均精度优于均匀分配,50% 专家剪枝时 Qwen3-30B-A3B 八任务平均从 57.2% 升至 63.8%,DeepSeek-R1 的数学、代码与科学平均从 80.1 升至 82.8。论文地址 https://arxiv.org/abs/2610.29662v1

    推荐理由:论文把 MoE 专家剪枝从剪哪些专家推进到每层剪多少的问题,给出的路由熵方法无需训练即可提升高剪枝率下的精度。

10月21日周三
  1. GitHub · 去对齐工具与仓库30

    deepseek-coder-6.7b-instruct 量化 PEFT 自动修复 Java 缺陷的复现研究仓库(WahidSaeed/peft-code-eval)

    这是一个 MEng 论文的复现包,实证研究 4-bit NF4 QLoRA、8-bit、16-bit bf16 LoRA 三种位宽与 LoRA rank(r ∈ {8, 16, 32})在微调 deepseek-coder-6.7b-instruct 修复 Java 缺陷时对正确性、GPU 显存、速度和能耗的权衡。实验基于 CodeXGLUE Code Refinement(10,000 训练 / 1,000 验证 / 1,000 测试对)和 HumanEvalFix(164 Python + 164 Java 缺陷),在单张 24 GB GPU 上进行。目前数据管线和指标已验证,训练与评测脚本仍在开发中。

  2. GitHub · 灵魂体仓库41

    udg-catalogue:基于 DeepSeek V4-Flash 的超弥漫星系(UDG)自动化 ETL 目录流水线

    GitHub 上的 udg-catalogue 项目用 DeepSeek V4-Flash 自动筛选 arXiv 天体物理论文并提取超弥漫星系(UDG)测量值,发布包含 1,927 个天体的交叉匹配目录,可通过 Plotly 3D 地图和 Streamlit 仪表板浏览。557 篇论文被筛选,90 个(4.7%)天体具备全部六个参数,五次完整运行的 API 总成本为 US$4.32。项目明确标注为原型,数值未经人工核对,使用前需对照 source_papers 中的原始论文并引用原论文。

10月16日周五
  1. arXiv · cs.CL45

    DPA-MoE:面向 MoE 推理的运行时精度控制框架

    研究者提出 DPA-MoE,一个运行时精度控制框架,让 MoE 模型中被路由的专家支持任意精度。该方法用 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的分块,并在推理时依据实时 router gate 分数分配。在 Qwen3-30B-A3B 和 DeepSeekMoE-16B 上的实验显示,相同预算下 DPA-MoE 比均匀分块分配改善了 KL 散度和下游准确率,原型系统稳态吞吐开销适中。

  2. arXiv · cs.AI35

    ISW-Agent:结合 LLM 对话与 n8n 工作流的内孤立波遥感图像处理系统

    研究者提出 ISW-Agent,将 LLM 解释与 n8n 工作流及独立科学模型结合,用于内孤立波(ISW)遥感图像处理。在每种后端各 120 条中文指令测试中,GPT-5.6 Sol 和 DeepSeek 均达到 94.2% 的严格任务匹配率;50 个定时场景中 39 个完成检测、条带提取与传播预测,中位耗时 48.04 s。3,408 次故障注入测试中,重试恢复 234 次瞬态故障,输出验证拦截 234 个结构缺陷。

10月10日周六
  1. arXiv · cs.AI38

    TQG-Exp:用轨迹质量反馈改进大语言模型智能体的经验学习

    论文提出 TQG-Exp,一个以轨迹质量为导向的经验学习框架,通过引入 Trajectory Quality Loss(TQL)将任务完成度与过程质量共同作为学习信号,并利用成对 rollout 估计检索经验的贡献以优化经验效用与检索。在 ALFWorld、WebShop 和 ScienceWorld 三个基准上,TQG-Exp 的 Avg.@3 较最强基线在 DeepSeek-V4-Flash 与 Qwen3.5-Flash 上分别提升 4.50 和 8.55 个百分点。

  2. GitHub · 3D 生成新仓库50

    高效 LLM 代码生成系统性文献综述复现包 v2.0 发布

    高效 LLM 代码生成系统性综述(投稿 ACM TOSEM)的复现包 v2.0 发布,系统分析 141 项主要研究,覆盖 RQ1 数据准备到 RQ6 技术组合共六个研究问题,文献截止 2026-08-31。分类体系含 24 个细粒度类别,其中推理优化研究最多(63 项);对全部 141 项研究的 8 项报告合规审计显示,功能正确性覆盖 95%,但内存报告仅 21%。

  3. arXiv · cs.AI33

    语言模型能玩好维基百科游戏吗?

    一项 arXiv 研究用“维基百科游戏”评测语言模型的信息检索能力,要求模型仅通过文章链接到达目标条目。研究者在本地构建了大规模维基百科图谱和基于 OpenAlex 的论文引用图谱,对比了嵌入向量模型与 LLM 在五种语言和五个学术数据集上的表现,并与人类及 TF-IDF 基准比较。结果显示没有任何模型显著超越人类,但 GPT-o3 mini、GPT-4o、QwQ:32B 和 DeepSeek-R1:70B 达到了可比水平,且性能排名随语言和主题变化。

10月8日周四
  1. GitHub · 灵魂体仓库69

    bethehand 开源 lab1:从零预训练到 aha moment 到编码 Agent 的十五个实验

    作者开源 lab1 仓库,在四张 RTX 4090 上完成十五个实验:95M/201M 从零预训练(FineWeb-Ede 困惑度 30.2/18.1)、GSM8K 上 GRPO 使 Qwen2.5-1.5B-Instruct pass@1 提升 0.21、Countdown pass@1 从 0.02 提至 0.98,以及四阶段编码 Agent 课程。报告给出每个实验的完整设置、表格与预测账本,bench_observation_price.py 可在一小时内测量任意 Hugging Face 模型移除可见测试后的性能损失(RL 模型损失 0.16 且全部落在修复环节)。

    推荐理由:作者在四张 RTX 4090 上跑通十五个实验并开放全部脚本与预测账本,读者可逐条对照复现 RL 与 SFT 的真实增益。

  2. arXiv · cs.AI22

    QuSema:用量子知识增强智能体检测量子库中的静默 bug

    研究者提出自主测试智能体 QuSema,利用量子语义与文档约束作为源码级语义 oracle,在量子库中查找静默 bug。其已适配 Qiskit 和 PennyLane,在 20 个历史静默 bug 基准上平均定位数超过 Claude Code 和 Codex,且 DeepSeek 配置成本低于 Claude Code。QuSema 还发现 40 个经开发者确认的未知 bug,其中 30 个为静默 bug。

  3. arXiv · cs.CL53

    EngramEdit:通过条件记忆实现 LLM 解耦知识更新

    Hongru Cai 等人提出 EngramEdit,通过条件记忆架构(如 DeepSeek Engram)实现解耦的 LLM 事实知识更新,保持 Transformer 主干固定。方法先计算使模型在多种表达下都能预测更新事实的目标记忆表示,再联合更新共享 n-gram 嵌入,并对频繁复用的嵌入施加更强惩罚以保护无关知识。实验显示编辑成功率接近完美,更新后的知识可用于未见表达和多跳推理,CoT 提示下准确率接近最强基线的三倍,且无关知识与通用能力在事实更新累积时基本保持不变。论文地址 https://arxiv.org/abs/2610.10533v1

    推荐理由:论文给出了一种在固定 Transformer 主干上编辑条件记忆事实知识的方法,CoT 场景准确率约为最强基线的三倍。

10月7日周三
  1. GitHub · 去对齐工具与仓库60

    RuMed ICD-10 编码实测:Qwen3-8B QLoRA 一轮微调不敌 TF-IDF 基线

    作者在 RuMedTop3(俄语患者主诉预测 ICD-10 编码,105 类,测试集 n=822)上对比了 TF-IDF、DeepSeek 提示/RAG、Qwen3-8B QLoRA 与 Kev-0.8B 直选五种方法。TF-IDF+逻辑回归 Hit@1 49.03 / Hit@3 72.63,零样本 DeepSeek 仅约 33;Qwen3-8B 在 Apple M2 Pro 上用 MLX 训练一轮 QLoRA(6 小时 32 分钟),Hit@1 从基座 7.66 提升到 35.64(配对差 +27.98 点)但仍低于 TF-IDF;Kev-0.8B 零样本 Hit@1 12.41,迁移效果差,中位推理延迟 523 ms。

    推荐理由:同一测试集上系统对比了线性基线、API 提示、RAG、QLoRA 和小型模型直选五种方案,并给出置信区间与配对差异,结论克制可复核。

  2. GitHub · 灵魂体仓库32

    神经符号系统免阈值规则供给实验仓库 data-proposes-llm-semantizes:数据提规则、LLM 只做语义化

    一个神经符号系统实验仓库实现了免阈值的规则供给架构:挖掘引擎以精确支持度流式输出最大共现模式,在 GPU tensor cores 上以位精确置信度组装蕴含规则,LLM 仅负责命名、标注和冲突消解,规则库在构造上无幻觉。仓库提供 10 组实验脚本复现论文结论,使用 chess、retail、kosarak、TCGA-BRCA 四个公开数据集,LLM 调用仅限 Exp. 5 和 Exp. 6,基于 DeepSeek API、temperature 固定为 0,并留存约 1,350 次 API 调用日志。

10月6日周二
  1. arXiv · cs.AI52

    arXiv 论文提出测量优先的 Agentic 榜单审计框架并复测 SWE-bench Verified 污染差距

    arXiv 论文提出测量优先的审计框架,将基准污染声明分为训练期暴露、评估期检索和管线泄漏三类证据通道,在 Holistic Agent Leaderboard 的 9 个配置中 27 项通道评估无一被判定为 closed,但 4 个配置确认了污染事件。

    推荐理由:论文提出按证据类型区分污染声明的审计框架,并给出 HAL 上 27 项通道评估与 SWE-bench Verified 匹配对照复测的具体结果。

10月4日周日
  1. arXiv · cs.AI41

    LatentIndex:基于层特定选择的跨层共享稀疏注意力

    LatentIndex 将 Multi-head Latent Attention 的潜在共享原则扩展到稀疏注意力索引层,通过共享潜在缓存加层特定打分实现跨层索引复用。在 DeepSeek-V3.2 上,四层共享使逻辑 indexer 缓存存储减少 61.1%;免训练版本在 DeepSeek-V3.2 与 GLM-5 上的头级注意力质量召回率最高超出 IndexCache 3.28 个百分点,同时保持接近原生 DSA 的 RULER 和 LongBench 表现。分层选择(HS)变体在 8K-128K 上下文下实现相对 DSA 2.30-2.72 倍的 decode indexer 加速。