跳到正文
10月25日周日
  1. Ollama Blog56

    Ollama 支持语音模型,首发 Gradium 的 Phonon 文本转语音系列

    Ollama 0.40.11 起支持文本转语音,首个语音模型是 Gradium 的 Phonon 系列,目前可用 macOS,Windows 和 Linux 支持即将推出。在 M5 Max MacBook Pro 上,Ollama 借助 MLX 加速,吞吐比次快的 Gradium ptts 运行时快 35%,词错率与 Hugging Face Transformers 参考实现持平;Phonon 采用 Apache 2.0 许可,40M 版本为 CC BY-NC 4.0 限非商用,支持英语、法语、德语、西班牙语、葡萄牙语,并提供 OpenAI 兼容的 /v1/audio/speech 接口和流式播放。

    推荐理由:官方给出了与 Gradium 自家运行时的吞吐对比和词错率对照数据,读者可以据此判断在 Apple Silicon 上本地跑语音模型的真实表现。

10月24日周六
  1. Hugging Face · 新模型:uncensored23

    GLM-5.2 FP8 Uncensored 的 Colibri int4 转换版发布

    Hugging Face 上发布了 zandenAI/GLM-5.2-FP8-Uncensored 的 Colibri int4 独立转换版,供 C 推理引擎 JustVugg/colibri 使用,该引擎将稠密部分保留在内存中并从本地存储流式读取 MoE 专家权重。转换采用行式 int4 量化(嵌入与 LM head 为 int8,norms 与路由权重为 FP32),非标准 Transformers/vLLM/GGUF 格式,须用 Colibri 加载,遵循 MIT 许可。

  2. arXiv · cs.AI21

    SemantEq:形式化语句的忠实双向等价判定方法

    研究者提出 SemantEq,用于检验自动形式化生成的 Lean 4 语句是否忠实于原数学陈述,要求双向转换只能经由允许的推理步骤链完成。其无模型搜索 SemantEq-Eval 在 ProofNetVerif 测试集上达到 100% 精确率和 65.6% 召回率(BEq+ 为 95.8% 和 61.8%);配套的 SemantEq-ProofAudit 审核模型证明时拒绝了全部 104 对非等价语句,并在最佳提示下把 407 对等价语句的召回率从 65.4% 提升至 81.1%。代码与数据已开源。

  3. arXiv · cs.AI42

    NgramRL:用感知 rollout 的 N-gram 推测解码加速 RL 后训练中的结构化生成

    NgramRL 从同一提示词的近期 rollout 历史构建逐提示词 n-gram 草稿器,加速 RL 后训练中占比可超 70% 训练时间的 rollout 生成,无需辅助模型或常驻 GPU 草稿状态。在两种模型家族和三种推理、结构化生成任务上,warm-cache 下每次目标模型前向提交 3.60-7.77 个 token,比 SuffixDecoding 最高快 1.99 倍、比 prompt-lookup decoding 快 7.0 倍;Spider 上 prefetcher 以候选预算 16 覆盖 Qwen3-8B 96.6% 的结果,rollout 吞吐提升 1.38 倍。

  4. arXiv · cs.AI29

    PICLE-PFN:首个支持动态治疗策略的纵向因果效应估计基础模型

    研究者提出 PICLE-PFN,首个面向纵向因果效应估计、支持动态治疗策略的基础模型。它基于从纵向结构因果模型采样的合成数据预训练,通过 in-context 历史决策示例表示目标策略,一次前向传播即可直接预测条件平均潜在结果,无需任务特定训练或超参数调优。在合成与半合成基准上,其 RMSE 具有竞争力,不确定性校准显著优于逐数据集单独训练的 SOTA 传统估计器,部署运行时间仅为其一小部分。

10月23日周五
  1. Hugging Face · 新模型:abliterated60

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 去对齐版 FP8 量化权重

    IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 FP8-DYNAMIC 量化版,体积从 bf16 的 65.8 GB 降到 35.0 GB,KL 0.0134,用 llm-compressor 0.14.0 无校准数据制作。附 NVFP4A16(22.1 GB)和 W4A16(20.5 GB)4-bit 版本,可在 Ampere GPU 上运行。Heretic 评测协议下(关闭思考,100 条有害提示)各版本拒绝数为 20-26/100,差异不显著;原始 ThinkingCap 拒绝 99/100,bf16 去对齐版降至 21/100。

    同一新闻,精选展示《IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 去对齐版 W4A16 量化权重》

  2. arXiv · cs.CL26

    CounselPlex:一种压力源感知的全双工心理咨询模型

    CounselPlex 是一个压力源感知的全双工语音心理咨询框架,针对现有模型只关注最新话语、丢失求助者核心问题(Stressor Blindness)的缺陷,在求助者沉默时更新短期压力源状态,并在倾听过程中将状态注入相应位置。论文还提出 RoPE Position Shift Augmentation(RPSA)扩展训练时的位置覆盖,LLM-judge 评测显示其咨询质量与压力源关联性优于强基线。

  3. arXiv · cs.CL33

    机器翻译中何时更多的搜索才有用:质量感知解码中的搜索效用实证研究

    这项 arXiv 研究指出,质量感知解码(QAD)中为每个源句分配相同候选预算 N 的做法并不合理,额外候选带来的质量增益因句子而异。作者通过总扩展增益、边际扩展增益和采样饱和点三个量来衡量搜索效用,发现句子级信号与总扩展增益相关,而候选池统计特性可有效预测边际扩展增益。这些信号能识别出在选择性追加搜索时收益更大的句子。

  4. arXiv · cs.AI40

    InferSlice:面向电信广域网 SLO 驱动 LLM 推理的参考架构

    BT 联合布里斯托大学与 NVIDIA 提出 InferSlice,一个在电信基础设施上实现 SLO 驱动 LLM 推理的参考架构,集成网络切片、GPU 分区、弹性服务与可观测性,并在 JOINER 英国全国广域网上实现。评估显示不同服务层级呈现不同的时延-吞吐区间,权重流式传输可缩短扩容时间;流水线并行可容忍近中距离跨站点跳数,而张量并行与 prefill/decode 分离在超出单一子网跳数后失效。

  5. arXiv · cs.AI42

    LGMT:测试大语言模型逻辑推理可靠性的开源工具

    研究者推出开源工具 LGMT,基于一阶逻辑的蜕变关系检测 LLM 推理不一致性,无需 ground-truth 标签即可对比等价测试用例上的预测。工具内置 20 条蜕变关系,支持经 Z3 定理证明器验证的自定义关系,提供 CLI 和 web studio 及离线 mock 模式。对 6 个主流 LLM 在 3,091 个蜕变组上的测试显示,不一致率介于 20.84% 至 29.44%,代码已在 GitHub 开源。

  6. arXiv · cs.AI34

    LLaCO:面向大语言模型的连续扩散与竞争感知语义调度

    论文提出 LLaCO,一个基于竞争感知语义调度的连续扩散文本生成框架。理论层面,它提出竞争阈值理论(CTT),指出嵌入范数衰减导致欧氏距离产生虚假超车,并据此提出语义保留调度(SRS)。LLaCO 通过嵌入方向适配器与基于测地线插值的球面加噪过程改造预训练骨干,8B 版本性能超越此前连续扩散基线,并与同等规模的离散扩散模型相当。

  7. arXiv · cs.CL36

    PHYRD:一个用于复现与扩展理论物理研究的动态基准

    PHYRD 是一个理论物理推理动态基准,包含 63 道 Reproduce 和 43 道 Discover 题,由 FormulaForest 构建并附带子问题级评分标准。五个模型在 Reproduce 上整体准确率为 49.21%–68.25%,闭卷 Discover 为 18.60%–74.42%,使用工具后四 个模型完成更多 Discover 题。FormulaForest 作合成数据可将 Qwen-35B-A3B 在 OpenAI 的 FrontierScience 上的准确率从 61% 提升至 72%。

  8. arXiv · cs.CL37

    Accordion:基于固定前缀层循环的弹性深度推理

    论文提出 Accordion,一种基于 MoE、通过 fixed-prefix layer looping 支持五种推理预算的大语言模型。经过 3.6T tokens 预训练后,增加推理深度使 Accordion-6B-A0.5B 在 37 项任务上的五档宏平均提升 3.01 个百分点,中间档以一半的额外层执行获得其中 89% 的收益。最终模型在对应任务-预算平均上超越各领域专家,并在数学推理与代码生成中保留随深度变化的增益。

  9. arXiv · cs.CL32

    PILOT:面向多模态嵌入的特权推理探索框架,超越事后奖励

    研究者提出 PILOT 框架,将推理建模为潜变量,用先验-后验协同演进方式引导多模态嵌入模型的推理探索。在 78 项任务的 MMEB-V2 基准上,PILOT 在 2B 和 7B 参数下均超越主要基线,整体得分分别提升 3.2 和 3.3 分,其中视觉文档检索提升最大(+6.1 和 +6.4 分)。结果表明关系监督更适合作为塑造训练中推理探索的信号,而非事后奖励。

  10. arXiv · cs.CL41

    SCI-AGENT-EXAM:面向科研任务的智能体评测基准

    SCI-AGENT-EXAM 是一个面向科研工作流的智能体评测基准,包含 120 个专家标注任务,覆盖 11 个科学领域和 7 种研究任务类型。它采用程序化验证与经校准的 LLM 评审相结合的混合评估协议,并对执行轨迹的进展与稳定性进行分析。对 10 个前沿 LLM 智能体的实验显示,GPT-6 Astra 以 80.9 的总分领先,但仅 26.0% 的运行超过 0.95 成功阈值。

  11. arXiv · cs.CL29

    ProfileSim:基于分层奖励强化学习的金融营销用户模拟框架

    研究者提出 ProfileSim,一个面向金融营销外呼的场景化用户模拟框架,联合建模用户画像(人口属性与大五人格)和业务画像,基于真实语音对话数据微调,并用 GRPO 配合对话与话语两级分层奖励优化。搭配集成 SOP 约束与 RAG 的客服 Agent,ProfileSim 在口语自然度和用户画像一致性上最优,生成的话语更短且业务合规度相当,可支持意图识别训练、Agent 评测与冷启动部署。

  12. arXiv · cs.CL26

    Cycle-of-Thought:面向文档图像表格 VQA 的自我评估迭代推理方法

    研究者提出 Self-RefineVQA,一个免训练的推理时自我纠错框架,让单个 VLM 迭代扮演生成者、批评者和精炼者,改进表格视觉问答。该框架无需额外标注数据或模型更新,在单语与跨语言表格 VQA 基准上均带来一致的准确率提升,尤其显著提升小模型表现,使 2B-7B 参数的轻量模型可媲美大得多的模型。推理成本呈线性增长,但省去了 SFT 所需的专家标注瓶颈,累计成本更低。

  13. arXiv · cs.CL45

    多模态大语言模型检索头的更全面研究

    一项 arXiv 研究考察多模态大语言模型的 retrieval heads 在新增模态时的表现:以视听输入为对象,发现检索头在新模态中保持稀疏并跨模态大量共享,在 18 个语言、视觉语言与全模态模型中,全模态模型基本保留了其基座的检索头。跨模态共享的检索头不足全部 head 的 2%,但消融它们会损害文档理解、空间感知和视觉数学。通过 ranking 目标训练这些头的注意力,Qwen3-VL-8B 在 MMDocIR 上的 page Recall@1 提升 6.03 分,并在三个模型族上改善文档检索。

  14. arXiv · cs.CL59

    FD-LHB 基准揭示全双工语音模型长对话为何崩溃

    研究者提出 Full-Duplex Long-Horizon Benchmark(FD-LHB),测试五个全双工语音模型的长对话能力,发现所有被测模型最终都会性能退化或耗尽上下文窗口。滑窗模型的乱码与沉默源于 Initialization-Anchor Eviction(丢弃首个 KV 条目),重复则受模型自身近期输出强化;提出 Initialization-Anchor Pinning 与 Duplex Repetition Penalty 两个无需重训练的修复,在最长一小时的重放对话中实时运行并显著减少对话崩溃。

    推荐理由:论文诊断出全双工语音模型长对话崩溃的两个机制,并给出无需重训练的两项修复方法,具可迁移性。

  15. arXiv · cs.AI33

    OVC:从视觉亲和到学习信用,改进多模态强化学习中的 token 级信用分配

    研究者提出 Outcome-Conditioned Visual Credit(OVC),一个即插即用框架,将视觉关联度量与 token 级信用分配分离,解决 RLVR 中统一响应级优势分配忽视视觉观察作用的问题。OVC 复用现有 rollouts,无需辅助奖励模型、过程标注或推理时模块。基于 GSPO-token 实例化后,OVC 在三个模型上使六项基准平均准确率较 GSPO 提升 1.86-2.39 个百分点。

  16. arXiv · cs.AI29

    Solvent:面向多步逆合成的长程推理

    研究者推出 8B 大语言模型 Solvent,将长程推理扩展到多步逆合成任务。通过两轮后训练课程,模型学会交替进行迭代合成规划、外部可得性验证与自适应路线修订。经 RL 带来 2.1 倍性能提升后,Solvent 在四个 benchmark 上取得 61.86%,超过中规模语言模型和已有搜索式逆合成系统,媲美前沿万亿参数 LLM。

  17. arXiv · cs.CL37

    停止头真的能节省循环语言模型的计算量吗?

    一项预训练至 1.3B 参数的实验发现,循环语言模型中的 halting head 存在两个问题:混合所有迭代的训练无法预测 token 真正停在哪次迭代,需加入偏向早停的强惩罚才有效;且按 batch 生成时序列要等到最慢 token 停止,无头的模型在同等成本下表现几乎相当,平均迭代次数指标会高估节省。作者建议报告 token 实际迭代数、停止阈值与 batch size,并提出训练前可预估收益上限的测试。

  18. arXiv · cs.CL33

    头维度影响语言模型的长上下文检索能力

    一项 arXiv 研究发现,在固定模型规模下,更宽的注意力头维度能提升长上下文检索性能,而预训练损失和短上下文非检索任务几乎不受影响。更宽的头拥有更高比例的检索头,将更多参数用于检索。即使冻结注意力模块的投影权重,继续预训练中检索性能仍随头宽提升,表明宽头还促进了嵌入向量和 MLP 等组件的有效适配。

  19. arXiv · cs.CL39

    SOPO:用于片段级幻觉检测的苏格拉底引导策略优化

    研究者提出多轮 RL 框架 SOPO,通过教师模型在 rollout 中依据 ground truth 提供间接提示的苏格拉底反馈机制,缓解片段级幻觉检测中的奖励稀疏问题,并以 Turn-based Advantage Scaling 惩罚冗长偏置。SOPO (4B) 在 RAGTruth 上达到 SOTA,超过 GPT-5 等专有模型和标准 RL 基线,在四个域外基准上的平均分高于 GRPO,与 CAPO 互有胜负。1.7B 和 4B 模型及训练、评估代码已开源。

  20. arXiv · cs.CL31

    DIVA:让 LLM 学会"值得再问"的决策知情信息获取方法

    研究者提出 DIVA,一种免训练的 LLM 信息获取方法,让模型基于证据的决策价值决定何时查询、何时停止,避免为无法改变决策的"检查"付费。其变体 DIVA-U 进一步考虑 LLM 对证据影响概率估计的不确定性。在 4 个领域、20 个 LLM 上,DIVA-U 的 regret 低于所有 LLM 基线;在各检查可靠性已知的合成场景中,DIVA 将最佳基线的 regret 降低 75%。

  21. arXiv · cs.CL57

    北海道大学医院发布院内封闭网络临床智能体平台 LLENS 并完成评估

    论文报道了在北海道大学医院封闭网络内部署的临床支持智能体平台 LLENS,使用 8 块 NVIDIA H200 GPU 与开放权重模型 Kimi K2.6(约 1 万亿参数),自 2026 年 9 月 14 日起在医院网络运行。Kimi K2.6 从 3 个候选中选出,在 2026 年日本医师执照考试模拟中得 480/500 分;在 180 道基于医院文档的问题上,交互式工具访问准确率 97.2%,高于固定检索的 81.3%(差距 15.9 个百分点,95% CI 10.9-21.3)。

    推荐理由:在医院封闭网络内部署开源大模型智能体的完整实测,对比了三种检索方式的准确率,方法可迁移到其他内网场景。

  22. arXiv · cs.CL32

    多语言 P(True) 自我评估中问题、回答与验证器语言的解耦研究

    一项研究在六语言因子设计中用 10 个开源模型(3B-14B)检验多语言 P(True) 自我评估,基准为 LSQA、MMMLU 和 TriviaQA。三种语言各自影响评估的不同方面:对齐回答与问题或验证器语言可提升区分度但不改善校准,仅验证器语言就可使校准误差变化达 0.04;未经验证的评分器会把 MMMLU 英-印地语准确率差距从 0.198 缩到 0.038。因此多语言置信度结果只在三种语言均报告且评分器经过验证时才具可比性。

  23. arXiv · cs.CL32

    SyncPro:面向主动式流视频理解的推理与响应同步框架

    研究者提出 SyncPro,一个同步双流框架,用 Inner 与 Response 两条分支分别负责证据跟踪和面向用户的响应,两条分支共享因果历史且可独立激活,使响应能与进行中的推理并行。该框架通过 189K 双流样本进行监督微调和轨迹级强化学习训练,在三个主动式 benchmark 上提升了响应时机和回答准确率。

  24. arXiv · cs.CL48

    现代文本嵌入模型的几何盲区:情感信息可解码但度量不可分

    arXiv 论文发现,2021–2026 年的 11 个冻结文本编码器普遍存在解耦现象:线性探针能以最高 91.3% 准确率从嵌入中解码句子情感极性,但余弦相似度的极性分离边际仅 0.003–0.064,Qwen3-Embedding-4B 探针准确率 91.3% 而 retrieval MAP 仅 64.3。作者提出 SISE 方法,用 0.13M–0.69M 参数的监督对比头在 CPU 上数秒训练,可将 retrieval MAP 提升最高 +26.0,但 128 维头在 STS-B 上损失 38–41 个 Spearman 点,属于专精化而非免费收益。论文同时开源 CPU 可复现管线和 Attribute Alignment Gap 诊断工具。

  25. arXiv · cs.CL35

    EDWARD-NMT:面向神经机器翻译的弹性维度、自适应路由与双一致性 MoE 架构

    研究者提出 EDWARD-NMT,一种面向神经机器翻译的 MoE 编码器-解码器架构,支持“一次训练、随处部署”。它结合 Matryoshka 式弹性维度、带可学习阈值的自适应 sigmoid 路由和双一致性目标,可在推理时提取一系列子网络。在 PhoMT(En-Vi)、WMT-14(En-De)和 OPUS-16 等基准上,完整模型匹配或超过强 MoE 基线,子网络无需再训练即可稳定优于同等规模的稠密 Transformer。该工作已被 EMNLP 2026(Findings)接收。

  26. arXiv · cs.CL25

    时间同步端到端 ASR 模型的搜索空间复杂度与效率系统性比较

    一项发表于 IEEE SLT 2026 的研究系统比较了 CTC 与 neural transducer 端到端 ASR 模型在不同剪枝策略和语言模型配置下的搜索空间复杂度与效率。研究发现这些模型多数时间只需小搜索空间,但在不确定时段假设数会出现临时峰值;基于分数的剪枝可动态适应模型不确定性,显著降低实时率(RTF)。结果指出了低固定 beam 剪枝的局限,并为端到端 ASR 的高效搜索提供了实践指南。

  27. arXiv · cs.CL48

    Cola2:连续语义压缩与平衡离散生成协同的层级语言建模

    研究者提出层级语言生成框架 Cola2,将连续语义压缩与离散文本生成解耦并协同优化,通过无辅助损失的负反馈控制压缩率,结合重建与生成监督学习紧凑潜在表示。约 2100 亿 token 训练量的五项下游任务实验显示其具备竞争力且未饱和的扩展性;在 3460.3 亿源 token 下,未收敛 checkpoint 在八项任务上平均达 60.10,并在 HellaSwag 和 StoryCloze 上超过 Llama-3-8B,而后者预训练预算超过其 43 倍。

  28. arXiv · cs.CL28

    面向低资源黏着语巴什基尔语的大语言模型参数高效适配:语料库、数据集与可复现基准

    一项研究发布巴什基尔语开源资源套件与适配方法系统基准,含 71,567 篇文档、46.9M tokens 的网页语料及三个文本分类标注数据集。实验覆盖 82M-8B 的八种架构,比较全量微调、QLoRA、in-context learning 和持续预训练(CPT):QLoRA 在二分类上优于编码器微调,YandexGPT-5-Lite-8B 加 CPT 达 macro-F1 0.748,高于 XLM-R 的 0.653 和 mBERT 的 0.650。CPT 效果因模型而异,西里尔 tokeniser 更优,且 LLM 评审无法复现母语者的语言正确性评分,母语评测仍不可少。

  29. arXiv · cs.CL48

    SQuAT:球面格点向量量化感知训练

    论文提出 SQuAT,一种面向十亿参数 LLM 的形状-增益向量量化感知训练(VQ-QAT)方法,用分离的 STE 对方向和增益分别更新,方向通过 E8 球面码本量化。其分布式最近邻分配方案将 VQ-QAT 训练时间缩短 12.8 倍,并扩展到 10B token。在 instruction-tuned LLaMA-3.2-1B/3B、Qwen3-4B 和 base Qwen3-1.7B 上,SQuAT 在相同码本和初始化下始终优于标准 VQ-QAT STE,达到 SOTA VQ-QAT 精度。

  30. arXiv · cs.CL33

    Multi-Token Prediction 与替代 Tokenization 助力语言模型大规模学习潜在多跳图搜索

    一项 arXiv 研究指出,语言模型难以在图上从起点 s 生成到终点 t 的最短路径,原因在于监督信号与 tokenization 两方面。作者从理论和实验上证明多-token 预测(MTP)有效且其收益与图拓扑无关,并引入替代 tokenization,证明两者正交。结合这些方法,模型突破了此前工作的规模瓶颈,能在远超以往限制的图规模上稳定求解该任务。

  31. arXiv · cs.CL26

    对话系统观点选择的立场粒度研究:概念级立场向量如何影响用户接触不同观点

    一项对话系统研究用 bandit 策略控制可选观点与用户的距离,并比较标量立场打分与 Perspectivized Stance Vectors(将立场拆分到概念层面)。被试间实验(N=63)显示,概念级立场带来更多样的观点曝光和更广的立场覆盖,但不改变用户论证观点的深度或复述准确度。分析还发现,用户在“某一方未表态”的概念上复述观点最不准确,而非双方分歧的概念上。

  32. arXiv · cs.AI46

    同一实体、不同文字:诊断语言模型跨文字实体匹配失败

    一项 arXiv 研究用 601 对天城文-拉丁文审计身份对测试发现,Qwen2.5-7B 在马拉地语提示下,同一人名判断准确率从拉丁文的 35.1% 降至天城文的 8.5%。在 374 对马拉雅拉姆语对上复现了该效应,0.925 AUROC,且标量校准可恢复 87% 的模型-探针平衡准确率差距。对 Qwen 中间层的干预将马拉地语同一人准确率从 6.5% 提升至 33.5%,不同人准确率保持 98.5%。

  33. arXiv · cs.AI43

    深度增长与循环结构如何塑造语言模型的上下文学习能力

    一项研究分析了深度增长与循环结构如何促进语言模型的上下文学习,涵盖参数量最高 3B 的预训练模型与受控任务。实验显示此类模型比全深度稠密参考模型更依赖上下文信息,能更早习得 ICL 并在权重学习中更牢固地保留该能力。注意力追踪与消融实验表明,深度增长使早期 induction heads 跨层传播,模型更依赖 induction 排名靠前的注意力头支持 few-shot 表现。

  34. arXiv · cs.AI36

    面向编码智能体的自适应技能粒度:运行时路由与宏到微恢复

    一篇 arXiv 论文提出 Adaptive Skill Granularity 框架,将编码智能体的技能粒度作为基于任务结构、执行状态和宏技能失败的动作抽象策略来控制,系统由基于特征的粒度控制器和有限状态恢复执行器组成。在采用验证器定义成功、总成本及宏采用率、失败恢复、路由匹配等过程指标的确定性编码智能体协议中,运行时路由与显式的宏到微恢复比固定粒度执行更稳健,可恢复固定执行无法解决的受控宏失败。作者据此主张技能库应被视为可控、可验证、可恢复的执行抽象。