跳到正文
今天10月27日周二8 条
  1. arXiv · cs.CL55

    因果语音隔离器论文发布:22.1M 参数模型可在单 CPU 线程上实时运行

    论文训练了 140M/243M/374M 参数的因果语音隔离器,延迟 20 ms,可从通话本身注册来电者。将 WavLM-Large 权重改为因果并联合训练把开发集错误率从 11.44% 降至 10.55%;在长通话窗口上训练后发布版在干净开发集错误率为 2.96%,AMI 60 s 窗口实时错误率 16.13%(VoxLock 为 23.66%),Krisp 基准上为 5.74% 对 5.63%。蒸馏出的 22.1M 参数模型在 LiveKit agent 中单 CPU 线程实时运行,每通话占 33% 核心算力,错误率 10.66%;代码与模型已开源。

    推荐理由:论文给出了与 VoxLock、Krisp 的具体错误率对比和 CPU 端蒸馏模型,读者可以据此评估其语音隔离方案在真实通话里的适用性。

  2. arXiv · cs.CL33

    探究 Mimi 编解码器码本 CB0 的语音表征

    一项研究分析了 Mimi 神经音频编解码器第一个码本(CB0)中的语音表征。由于 Mimi 固定 80 ms 的 token 窗口常跨多个音素,ABX 式评估不适用,研究者改用强制对齐、熵分析和 Phone-Normalized Mutual Information(PNMI)。基于 TIMIT 语音(58/55 说话人,SA1/SA2)的实验显示,单个 token 与特定音素强相关(PNMI = 0.84,高于随机水平),但音素由多个竞争 token 实现,并非一一对应。

  3. arXiv · cs.CL42

    全双工语音模型新方法 Window Likelihood:积分奖励而非采样奖励

    论文提出 window likelihood(WL)方法,改进全双工语音对话模型在用户打断与附和时的表现。作者发现时序奖励的 GRPO 整段 rollout 存在零梯度陷阱和 credit leakage 两类失败,WL 则在每个窗口闭式积分 stop 决策并最大化正确行为的对数概率。在 HumDial-FDBench 上,WL 在六个开源模型上取得最优 yield/hold F1,超过 Kyutai 发布的 GRPO checkpoint,且不重新打开话轮。

  4. arXiv · cs.CL26

    Preserve to Expand:面向多语言 LLM ASR 的源语言感知适配与模型合并研究

    一项 arXiv 研究探讨在 Speech LLM 的 connector-based 架构中扩展多语言 ASR 时,如何在不回放源语言训练数据的前提下保留已有语言性能。实验显示,单目标扩展中 target-only fine-tuning 和标准 TIES 合并会导致严重源语言遗忘,SSU-Wanda+TIES 取得最佳源语言保留权衡;多目标扩展中 update merging 提供稳定的源语言保留,而递归扩展虽可能提升目标适配但高度依赖顺序。

  5. arXiv · cs.CL26

    DecisionTraceBench:面向多方语音对话中决策关键信息的追踪基准

    研究者推出 DecisionTraceBench,一个针对决策关键信息状态跟踪(DCIST)的语音状态追踪基准,联合评估决策事件序列、说话人归属、范围与时间证据,并用轨迹级 F1 衡量完整事件链恢复。数据集包含 100.39 小时中文金融合成语音和 8.61 小时真人录音。五个级联系统与两个直接音频模型在固定真人录音集上仅得 5.73%-21.35%,加了说话人标注参考脚本和去除时间定位要求后最高也只有 38.72%,显示现有系统在信息溯源与状态演化联合理解上的不足。

  6. arXiv · cs.CL44

    全双工语音模型长会话退化的诊断与缓解方法

    一项 arXiv 研究系统刻画了全双工语音对话模型在长会话中的性能退化,发现多款公开模型的响应性、语音内容质量和音色一致性随时间下降。研究者提出基于自蒸馏的 LoRA 轻量适配训练框架,并引入双分辨率上下文(TRC)架构,将旧交互历史压缩为 KV 表示。在三个不同架构模型上,LoRA 适配缓解了十分钟会话内的性能退化,加入 TRC 后效果可超出训练会话长度,且 KV-cache 增长减少超过 90%。

  7. arXiv · cs.CL43

    链式推理 TTS 中人设与台词冲突的诊断:从规划到合成的失败分析

    一项发表于 arXiv 的研究提出日英双语人设—台词冲突基准,诊断链式推理 TTS 中人设意图在何处丢失。结果显示规划器输出方向通常正确,但下游一致性明显更低;监督 QwenEmotion 将方向正确率提升至日语 75%、英语 84%,学习式文本到潜在接口分别达到 89% 与 88%。这表明修复规划到合成接口可恢复与文本情感相悖的语音表达,但效果因语言和声学维度而异。

  8. arXiv · cs.CL29

    SimPOTrans:通过强化学习让离线语音翻译模型自适应同声传译

    SimPOTrans 是一个强化学习框架,通过两阶段 RL 后训练让离线语音翻译模型自适应对话式同声传译(SimulST),无需合成 read/write 轨迹或显式延迟优化。推理时无需外部决策策略,仅调整语音输入的 chunk size 即可灵活控制质量-延迟权衡。在 ACL 60/60 和 MCIF 基准的 En→De、En→Zh、En→Ja 三个语言方向上超越多个强基线。

10月26日周一
  1. Reddit · r/LocalLLaMA46

    ConvFill:用 0.6B talker 模型配合大推理模型实现快速语音智能体

    华盛顿大学 UbiComp Lab 学生开发的 ConvFill 训练 0.6B talker 模型与大型 reasoner 模型协作:用户语音转录后 talker 先快速接话争取时间,reasoner 生成合适回复再由 talker 朗读,兼顾语音智能体的速度与智能。作者认为方向可行但 talker 还需更聪明,论文将在 EMNLP 发表,demo 已上线可试用。

10月25日周日
  1. arXiv · cs.CL17

    RoleHear:基于伪标签的半监督角色属性流式语音识别

    RoleHear 是一个半监督语音识别管线,让单个 cache-aware 流式 transducer 通过轻量级词表内角色 token 内联输出说话人角色,先给出快速轮次边界标记,随后再输出角色 token。离线 transducer 教师微调后为无标注音频重打标,多模态大语言模型补充 silver 角色标签,流式学生模型在混合数据上一次性微调。在客服通话(gold 角色)和财报电话会(silver 角色)数据上,RoleHear 保持转写质量的同时准确归因角色,缩小了与离线教师的差距。

10月23日周五
  1. arXiv · cs.CL26

    CounselPlex:一种压力源感知的全双工心理咨询模型

    CounselPlex 是一个压力源感知的全双工语音心理咨询框架,针对现有模型只关注最新话语、丢失求助者核心问题(Stressor Blindness)的缺陷,在求助者沉默时更新短期压力源状态,并在倾听过程中将状态注入相应位置。论文还提出 RoPE Position Shift Augmentation(RPSA)扩展训练时的位置覆盖,LLM-judge 评测显示其咨询质量与压力源关联性优于强基线。

  2. arXiv · cs.CL17

    残差专家路由实现因子化 Transducer ASR 的纯文本领域自适应

    一项 arXiv 研究提出保守残差路由方法,用于因子化 Transducer ASR 的纯文本领域自适应:适配后的 predictor 作为基础模型的残差修正,由一个 16k 参数的门控在每个前缀决定采纳程度,关门时完全还原基础模型。在 40 小时会话语料上,两个留出域 WER 从 19.89/20.91 分别降至 16.74/16.21,源域 WER 基本不变(12.90 至 12.93),且无需目标域音频的按域调优。

  3. arXiv · cs.CL45

    伪标签作奖励而非目标:GRPO 用于半监督 ASR

    一项 arXiv 研究提出用伪标签作为 GRPO(Group Relative Policy Optimization)的奖励参考,而非 SFT 的微调目标,以降低半监督 ASR 中的标签噪声传递。在银行领域,基于 Whisper 生成标签时,GRPO 相对 SFT 提升 29.3% 到 56.2% 的相对 WER,且优势在四种 Whisper 尺寸、四个教师模型族、三个领域和四种语言上均成立。SFT 几乎逐字复现 100% 的教师错误,GRPO 仅传递 27%。

  4. arXiv · cs.CL59

    FD-LHB 基准揭示全双工语音模型长对话为何崩溃

    研究者提出 Full-Duplex Long-Horizon Benchmark(FD-LHB),测试五个全双工语音模型的长对话能力,发现所有被测模型最终都会性能退化或耗尽上下文窗口。滑窗模型的乱码与沉默源于 Initialization-Anchor Eviction(丢弃首个 KV 条目),重复则受模型自身近期输出强化;提出 Initialization-Anchor Pinning 与 Duplex Repetition Penalty 两个无需重训练的修复,在最长一小时的重放对话中实时运行并显著减少对话崩溃。

    推荐理由:论文诊断出全双工语音模型长对话崩溃的两个机制,并给出无需重训练的两项修复方法,具可迁移性。

  5. arXiv · cs.CL24

    DIAL-S2ST:为同声传译学习推理时延控制

    研究者提出 DIAL-S2ST,一种用于同声语音到语音翻译模型的后训练方法,通过 lookahead 预测的自蒸馏和单个 LoRA adapter 实现推理时可调的延迟控制。在基于 Hibiki 的法语到英语翻译实验中,仅 10 小时源语音即可完成适配,在质量与延迟之间取得良好权衡,且无需成对目标数据或奖励计算。

  6. arXiv · cs.CL25

    时间同步端到端 ASR 模型的搜索空间复杂度与效率系统性比较

    一项发表于 IEEE SLT 2026 的研究系统比较了 CTC 与 neural transducer 端到端 ASR 模型在不同剪枝策略和语言模型配置下的搜索空间复杂度与效率。研究发现这些模型多数时间只需小搜索空间,但在不确定时段假设数会出现临时峰值;基于分数的剪枝可动态适应模型不确定性,显著降低实时率(RTF)。结果指出了低固定 beam 剪枝的局限,并为端到端 ASR 的高效搜索提供了实践指南。

  7. arXiv · cs.CL16

    SyRA-CS:基于 Reptile 元学习的语码切换 ASR 合成到真实自适应框架

    研究者提出 SyRA-CS,一种基于 Reptile 元学习的合成到真实自适应框架,用于语码切换(CS)语音识别。该框架对每种语言对和预训练模型在合成 CS-FLEURS 子集上做元训练,再用 1 小时标注真实目标语音自适应,覆盖 Arabic、French、German、Hindi-English 四组及 Encoder-CTC、FastConformer-RNN-T、AED、Speech-LLM 四种架构。SyRA-CS 在全部 16 组模型-语言对比较的 WER 上优于持续微调,XLS-R 相对 macro WER 降低 17.7%,其余三个模型降低 5.3-5.8%。

  8. arXiv · cs.CL29

    TTS 评估中的验证器下限:多少表面罕见词错误其实是 ASR 错误?

    TTS 通常用 ASR 转录输出评估词错误率,但识别器本身的错误也会被计入。在 LibriSpeech 和 FLEURS 上,评估识别器对人类语音中极罕见词的漏识率达 33-67%,用另两族识别器复核后,至少一个识别器听到的词的表观 TTS 错误率降低两到三倍(极罕见 LibriSpeech 词从 10-13% 降至 3-5%)。直接忽略这些漏识词有偏:识别器在这些词上发现 TTS 错误的频率为 4-6% 对 0.2-0.3%,且推翻约半数保留的错误。

  9. arXiv · cs.CL32

    合成到真实的尼泊尔语-英语夹杂 ASR:一个自发播客基准

    研究者发布尼泊尔语-英语夹杂 ASR 基准,含 13,044 条自发播客语句(共 15.45 小时)。两阶段合成到真实适配框架中,仅用 0.95 小时 TTS 合成语音做 SFT,将 MER 从 23.40% 降至 21.52%,语言切换点错误率(SPER)从 35.89% 降至 28.77%;后续 GRPO 仅带来小幅统计显著调整。SFT 同时将尼泊尔语 MER 提升 2.71 pp,而英语词错率保持 3.38%。

10月22日周四
  1. GitHub · 3D 生成新仓库20

    cs-tts-steering:用激活转向向量生成印英混说语音的研究设计

    一个新的 GitHub 仓库 cs-tts-steering 正在设计基于 CAA(对比激活添加)方法,利用 MaSaC 印地语-英语混杂语料训练转向向量,让 LLM 骨干的 TTS 模型生成自然的语码转换语音。TTS 模型尚未选定,计划用 OrpheusTTS 或 Kokoro-82M 合成中性样本,并首次尝试将 BiPO 应用于 TTS 激活转向。实验将在配备 2× L40 48GB 的 Columbia CS 语音实验室机器上进行,目前处于初步研究设计阶段。

  2. arXiv · cs.CL34

    Decodability Is Not Controllability:连续潜变量 TTS 中说话人控制的局部与各向异性研究

    一项 arXiv 研究表明,在 VoxCPM2 连续潜变量 TTS 中,高线性可解码性不等于因果可控性:RALM L7 层探测准确率达 0.970,但对齐编辑在 60 组配对中 0 组成功;而在 L0 层编辑可将目标相似度提升 0.326,60 组全部实现目标主导。双盲听测确认声音被识别为目标说话人,研究指出免训练说话人控制需要几何特异性和通向声学合成的计算通路。

  3. arXiv · cs.CL30

    闭环双参考引导方法用于跨语言语音克隆中的口音控制

    一种闭环双参考引导方法将原始参考音与通过语音转换(VC)构建的可复用母语锚音配对,减少零样本跨语言语音克隆中的口音迁移。在 20 名法语留出说话人上,λ*=0.33 设置使残余法语 LID 质量降低 73%,ECAPA 相似度仅损失 0.042,平均 WER 低至 0.009;西班牙语 LID 质量降低 56% 且无需重新调参。在线合成 RTF 约 0.59,比 TTS→VC 级联的 0.80 低约 26%。

  4. arXiv · cs.CL29

    Omnilingual-MsASR:评测全模态大语言模型的长篇多说话人多语言 ASR 基准

    研究者推出 Omnilingual-MsASR 基准,评测全模态大语言模型在长篇多说话人语音识别(MsASR)上的表现,覆盖 6 种语言、最长 30 分钟录音和最多 20 个说话人场景,并提供并行音视频输入以检验跨模态一致性。评测显示主流全模态 LLM 存在明显性能瓶颈,tcpWER 频繁超过 100%,细粒度时间定位、说话人区分和跨模态协同是未来关键挑战。

10月21日周三
  1. arXiv · cs.CL23

    码混合与母语双向迁移:文本与语音领域系统综述

    arXiv 论文首次系统综述码混合(CM)文本与语音和母语之间的双向迁移研究,按迁移方向、路径和模态建立分类体系。综述发现迁移大多是母语流向 CM 设定,反向迁移较新且主要通过对齐助力;文本与语音研究方法相通但很少互相引用。在共享语音基准上,母语数据的帮助大于新架构。

  2. arXiv · cs.AI33

    SLM-SS:基于 token 与语音语言模型的语音分离方法

    研究者提出 SLM-SS,一种基于 token 的生成式语音分离框架,用语音语言模型建模多说话人混合语音。在 Libri2Mix 上,采用 per-talker NAR 的 SLM-SS 达到 6.92% WER,接近纯 codec 重建水平;WavTokenizer 变体去掉 NAR 精修,在评测的分离系统中获得最高主观质量均分,且在未见过的噪声与中文混合语音上 UTMOS 和 DNSMOS 仍优于判别式基线,无需微调。

  3. arXiv · cs.AI30

    SMART:基于上下文评分标准的 ASR 语义分段映射与评估框架

    arXiv 论文提出 SMART 框架,将 ASR 语义评估转化为上下文感知的分段级后果评估,通过结构化评分标准给出后果标签并量化 Semantic Impact Error Rate(SIER)。在多数投票人工标注上 SMART 达到 0.843 F1,高于直接 LLM 判断的 0.745,且对评估模型的选择相对不敏感。配套的无参考评分标准修正方法在两个数据集上相比 w/o Rubric 基线再降低 MER 0.85-0.98 个百分点、SIER_lex 1.18-1.65 个百分点。

  4. arXiv · cs.AI17

    VISH-ASR:面向 Speech-LLM 上下文 ASR 的 Viterbi 引导热词选择

    研究提出 VISH,一个免训练、即插即用的热词预选框架,通过在帧级 CTC 后验上直接验证候选词的声学证据来支持 Speech-LLM 上下文 ASR。在五个 benchmark 上,M-VISH 的 Best-F1 较强学习式检索基线最高提升 11.7% 绝对值,并在 2,000 候选时将候选搜索延迟降低 75.2%。Bi-MVISH 则利用反向证据增强验证鲁棒性。

10月20日周二
  1. arXiv · cs.CL21

    在警方音频数据中利用不可靠 ASR 进行可靠关键词估计的新方法

    一项 arXiv 研究提出结合现成 ASR 输出与少量人工标注样本,依据 Prediction Powered Inference 和 Design-based Supervised Learning 框架对 ASR 系统性错误做事后校正。在巴尔的摩和芝加哥警方无线电通讯数据上,可获统计有效置信区间的领域关键词比例从仅用 ASR 的 43.0%、仅用人工标注的 27.2% 提升至 56.2%。

  2. arXiv · cs.CL32

    Monsoon:面向 50 种低资源语言 ASR 的可扩展自发语音数据收集框架

    Monsoon 是一个大规模收集自发语音数据的框架,用于解决低资源语言 ASR 缺少准确转写数据的问题,已收集 50 种语言的语音,并分析了七个共 3,500 小时的语料库。同等数据量下,其质量流程使语义 WER 相对降低 10-39%;Whisper 在 Monsoon 数据上微调后,在对话基准上语义 WER 降低 20-44 点。框架、质控模型和微调模型均已开源。

10月18日周日
  1. arXiv · cs.CL19

    双任务向量合并:利用情感与 ASR 知识实现低资源阿尔茨海默病语音检测

    研究者提出 Dual Task Vector Merging 方法,向冻结的 wav2vec 2.0 各 Transformer 层注入由情感和 ASR 微调模型导出的任务向量,用于阿尔茨海默病语音检测,仅需训练逐层合并系数与线性分类头,更新参数不到全量微调的 0.1%。在 ADReSS 和 ADReSSo 的说话人独立实验中优于 frozen probe、LoRA 和全量微调,与 LoRA 结合效果最佳;PROCESS 三分类任务及 20%、40%、80% 低资源设置下也验证了增益。

10月17日周六
  1. arXiv · cs.CL15

    Whisper 在病理语音下的 ASR 个性化:LoRA 适配器研究准确率、效率与时长影响

    一项发表于 SPECOM 2026 的研究在单说话人病理语音场景下,对 Whisper 中的 LoRA 适配做了组件级分析。结果显示:全注意力层的 LoRA 提供最可靠的准确率和最佳时间-准确率权衡;模型扩容虽能降低错误,但无法消除说话人失配;中等长度语音受益最大,短和长语音仍是难点。研究强调适配器位置与依赖时长的评估在数据稀缺个性化场景中的重要性。

  2. arXiv · cs.CL12

    DYNARTmo 发音动态模型的声学与气动扩展及 overlap-and-add 语音合成

    Kröger 为发音动态模型 DYNARTmo 引入声学与气动扩展:手势控制轨迹确定声道几何并转换为带鼻腔分支的声管,集总气动网络将声门运动与肺压映射为气流和声门上压力存储。帧级声学响应通过 overlap-and-add 合成叠加,并以德语词"Tasse""Muse""Lade"演示元音、鼻音、边音、擦音和塞音的协调。实现目前以声音可辨识度为主,独立感知评估尚未完成。

  3. arXiv · cs.CL51

    arXiv 论文评测 Qwen3-TTS 语音克隆的条件方式、域外表现与失败模式

    一篇 arXiv 论文系统评测 Qwen3-TTS 两种克隆接口(ICL 与 X-Vector),对比 Chatterbox、XTTS-v2 和 F5-TTS,覆盖朗读、会议、情感和空管无线电语音,使用十八项客观指标、LLM 评审与听感测试。结果显示两种接口各有优势,ICL 音色更准但对短参考转写错误敏感;语音域差异解释的方差是系统选择的四倍;Qwen3-TTS 可懂度和音高占优但韵律落后,现有反欺诈对策无法识别其克隆音频,空管无线电语音对所有系统都失败。代码和音频已开源。

10月16日周五
  1. arXiv · cs.CL33

    ConvexLLM:用凸包语音接口扩展通用音频智能

    ConvexLLM 是一个通用语音与音频语言模型,其 C-Gate 接口将音频表示为冻结文本嵌入的连续凸组合。该模型在 VoiceBench 十一项任务上取得 75.36 的聚合分数,是对比的开源权重模型中最高,MMAU Test-mini 准确率为 62.50%。与 2B 参数解码器的对比显示,C-Gate 在语音任务聚合表现上优于 MLP 和 Q-Former 接口,文本任务表现接近 MLP,语音知识与推理任务优势最大。

  2. arXiv · cs.CL18

    SITAR:用于自动语音识别评测的情境失真度量

    研究者提出 SITAR,一种自动语音识别(ASR)的情境失真度量,通过有界递归公式将情境严重度与累积程度聚合为统一分数。SITAR 以 BERT 家族的轻量回归器实现,单次前向传播即可对参考-假设对打分,无需依赖 LLM 评测带来的高额计算成本。验证协议涵盖宏观与微观层面的外在效度和评分器内在可靠性,完整代码、模型权重与数据集将在内部审查后发布。

  3. arXiv · cs.AI43

    ELLSA 2:支持语音、表情与手势的全双工端到端对话模型

    研究者提出 ELLSA 2,一个端到端全双工对话模型,联合优化语音交互与流式手势表情生成,在语言沉默时仍可持续生成非语言行为。模型通过上下文语义调用与模板引导实现语义手势生成,并建立对话感知的共语手势数据与评测管线。实验显示其与开源全双工语音交互模型相当,在手势与表情指标上超越级联基线,语义模板引导显著提升语义手势质量。

  4. arXiv · cs.AI38

    Qwen-Audio-Jev:用于音频决策的统一接口

    研究者在 Qwen-Audio-3.1-ASR-Flash-Next 基础上加入专用 Jev 决策头,推出 Qwen-Audio-Jev,通过 CHOICE、NOUL、SCORE 三种决策原语统一音频选择、二值判断与评分。模型在 MMAU-mini 上达到 78.70% 准确率、MMSU 上 84.06%,VoxCeleb1-O 等错误率 6.50%,NISQA 归一化平均绝对误差 0.1062。相比原模型推理速度提升约 20 倍,适用于大规模音频筛选、说话人验证和自动质量评估等高吞吐场景。

10月15日周四
  1. arXiv · cs.CL57

    MultiPartyTurnBench:评测多方语音对话中话轮控制的基准发布

    作者发布 MultiPartyTurnBench(MPTB),包含 240 段合成、信道分离的 2 至 5 人对话和六种交互类型,评测话轮结束(EOT)检测与打断(INT)检测两项任务。基线模型 EOT 召回率达 82.5-92.6%,但五个全双工智能体在选择性打断处理上接近随机水平(46.9-54.7%),Gemini-3.8-Live 对 97.7% 的附和信号让出话轮,MiniCPM-o-4.5 仅响应 1.4% 的真实打断。论文指出选择性话轮控制仍是多方语音交互的未解难题。

    推荐理由:基准把真实话轮转换与易混淆的非事件分开评测,并给出五个全双工智能体在选择性打断上的具体短板数据。

  2. arXiv · cs.CL33

    AFFIRM:修复文本更新后语音模型知识访问的冻结仿射场方法

    论文提出 AFFIRM(Affine Fields for Interface Repair across Modalities),在知识检查点冻结的前提下,通过先学习并冻结基础修正、再叠加查询级修正的可拆卸算子,单次前向修复语音访问。在 PopQA 平衡合成语音上与 SALSA、低秩 ReFT 相比未显出明确优势;在 SLUE-SQA-5 录音问题上,PopQA 拟合的 AFFIRM 算子免重训迁移,ROUGE-L 较 No Repair 基线提升 0.0941。