跳到正文
10月25日周日
  1. Ollama Blog56

    Ollama 支持语音模型,首发 Gradium 的 Phonon 文本转语音系列

    Ollama 0.40.11 起支持文本转语音,首个语音模型是 Gradium 的 Phonon 系列,目前可用 macOS,Windows 和 Linux 支持即将推出。在 M5 Max MacBook Pro 上,Ollama 借助 MLX 加速,吞吐比次快的 Gradium ptts 运行时快 35%,词错率与 Hugging Face Transformers 参考实现持平;Phonon 采用 Apache 2.0 许可,40M 版本为 CC BY-NC 4.0 限非商用,支持英语、法语、德语、西班牙语、葡萄牙语,并提供 OpenAI 兼容的 /v1/audio/speech 接口和流式播放。

    推荐理由:官方给出了与 Gradium 自家运行时的吞吐对比和词错率对照数据,读者可以据此判断在 Apple Silicon 上本地跑语音模型的真实表现。

10月23日周五
  1. arXiv · cs.CL26

    CounselPlex:一种压力源感知的全双工心理咨询模型

    CounselPlex 是一个压力源感知的全双工语音心理咨询框架,针对现有模型只关注最新话语、丢失求助者核心问题(Stressor Blindness)的缺陷,在求助者沉默时更新短期压力源状态,并在倾听过程中将状态注入相应位置。论文还提出 RoPE Position Shift Augmentation(RPSA)扩展训练时的位置覆盖,LLM-judge 评测显示其咨询质量与压力源关联性优于强基线。

  2. arXiv · cs.CL17

    残差专家路由实现因子化 Transducer ASR 的纯文本领域自适应

    一项 arXiv 研究提出保守残差路由方法,用于因子化 Transducer ASR 的纯文本领域自适应:适配后的 predictor 作为基础模型的残差修正,由一个 16k 参数的门控在每个前缀决定采纳程度,关门时完全还原基础模型。在 40 小时会话语料上,两个留出域 WER 从 19.89/20.91 分别降至 16.74/16.21,源域 WER 基本不变(12.90 至 12.93),且无需目标域音频的按域调优。

  3. arXiv · cs.CL45

    伪标签作奖励而非目标:GRPO 用于半监督 ASR

    一项 arXiv 研究提出用伪标签作为 GRPO(Group Relative Policy Optimization)的奖励参考,而非 SFT 的微调目标,以降低半监督 ASR 中的标签噪声传递。在银行领域,基于 Whisper 生成标签时,GRPO 相对 SFT 提升 29.3% 到 56.2% 的相对 WER,且优势在四种 Whisper 尺寸、四个教师模型族、三个领域和四种语言上均成立。SFT 几乎逐字复现 100% 的教师错误,GRPO 仅传递 27%。

  4. arXiv · cs.CL59

    FD-LHB 基准揭示全双工语音模型长对话为何崩溃

    研究者提出 Full-Duplex Long-Horizon Benchmark(FD-LHB),测试五个全双工语音模型的长对话能力,发现所有被测模型最终都会性能退化或耗尽上下文窗口。滑窗模型的乱码与沉默源于 Initialization-Anchor Eviction(丢弃首个 KV 条目),重复则受模型自身近期输出强化;提出 Initialization-Anchor Pinning 与 Duplex Repetition Penalty 两个无需重训练的修复,在最长一小时的重放对话中实时运行并显著减少对话崩溃。

    推荐理由:论文诊断出全双工语音模型长对话崩溃的两个机制,并给出无需重训练的两项修复方法,具可迁移性。

  5. arXiv · cs.CL24

    DIAL-S2ST:为同声传译学习推理时延控制

    研究者提出 DIAL-S2ST,一种用于同声语音到语音翻译模型的后训练方法,通过 lookahead 预测的自蒸馏和单个 LoRA adapter 实现推理时可调的延迟控制。在基于 Hibiki 的法语到英语翻译实验中,仅 10 小时源语音即可完成适配,在质量与延迟之间取得良好权衡,且无需成对目标数据或奖励计算。

  6. arXiv · cs.CL25

    时间同步端到端 ASR 模型的搜索空间复杂度与效率系统性比较

    一项发表于 IEEE SLT 2026 的研究系统比较了 CTC 与 neural transducer 端到端 ASR 模型在不同剪枝策略和语言模型配置下的搜索空间复杂度与效率。研究发现这些模型多数时间只需小搜索空间,但在不确定时段假设数会出现临时峰值;基于分数的剪枝可动态适应模型不确定性,显著降低实时率(RTF)。结果指出了低固定 beam 剪枝的局限,并为端到端 ASR 的高效搜索提供了实践指南。

  7. arXiv · cs.CL16

    SyRA-CS:基于 Reptile 元学习的语码切换 ASR 合成到真实自适应框架

    研究者提出 SyRA-CS,一种基于 Reptile 元学习的合成到真实自适应框架,用于语码切换(CS)语音识别。该框架对每种语言对和预训练模型在合成 CS-FLEURS 子集上做元训练,再用 1 小时标注真实目标语音自适应,覆盖 Arabic、French、German、Hindi-English 四组及 Encoder-CTC、FastConformer-RNN-T、AED、Speech-LLM 四种架构。SyRA-CS 在全部 16 组模型-语言对比较的 WER 上优于持续微调,XLS-R 相对 macro WER 降低 17.7%,其余三个模型降低 5.3-5.8%。

  8. arXiv · cs.CL29

    TTS 评估中的验证器下限:多少表面罕见词错误其实是 ASR 错误?

    TTS 通常用 ASR 转录输出评估词错误率,但识别器本身的错误也会被计入。在 LibriSpeech 和 FLEURS 上,评估识别器对人类语音中极罕见词的漏识率达 33-67%,用另两族识别器复核后,至少一个识别器听到的词的表观 TTS 错误率降低两到三倍(极罕见 LibriSpeech 词从 10-13% 降至 3-5%)。直接忽略这些漏识词有偏:识别器在这些词上发现 TTS 错误的频率为 4-6% 对 0.2-0.3%,且推翻约半数保留的错误。

  9. arXiv · cs.CL32

    合成到真实的尼泊尔语-英语夹杂 ASR:一个自发播客基准

    研究者发布尼泊尔语-英语夹杂 ASR 基准,含 13,044 条自发播客语句(共 15.45 小时)。两阶段合成到真实适配框架中,仅用 0.95 小时 TTS 合成语音做 SFT,将 MER 从 23.40% 降至 21.52%,语言切换点错误率(SPER)从 35.89% 降至 28.77%;后续 GRPO 仅带来小幅统计显著调整。SFT 同时将尼泊尔语 MER 提升 2.71 pp,而英语词错率保持 3.38%。

10月22日周四
  1. arXiv · cs.CL34

    Decodability Is Not Controllability:连续潜变量 TTS 中说话人控制的局部与各向异性研究

    一项 arXiv 研究表明,在 VoxCPM2 连续潜变量 TTS 中,高线性可解码性不等于因果可控性:RALM L7 层探测准确率达 0.970,但对齐编辑在 60 组配对中 0 组成功;而在 L0 层编辑可将目标相似度提升 0.326,60 组全部实现目标主导。双盲听测确认声音被识别为目标说话人,研究指出免训练说话人控制需要几何特异性和通向声学合成的计算通路。

  2. arXiv · cs.CL30

    闭环双参考引导方法用于跨语言语音克隆中的口音控制

    一种闭环双参考引导方法将原始参考音与通过语音转换(VC)构建的可复用母语锚音配对,减少零样本跨语言语音克隆中的口音迁移。在 20 名法语留出说话人上,λ*=0.33 设置使残余法语 LID 质量降低 73%,ECAPA 相似度仅损失 0.042,平均 WER 低至 0.009;西班牙语 LID 质量降低 56% 且无需重新调参。在线合成 RTF 约 0.59,比 TTS→VC 级联的 0.80 低约 26%。

  3. arXiv · cs.CL29

    Omnilingual-MsASR:评测全模态大语言模型的长篇多说话人多语言 ASR 基准

    研究者推出 Omnilingual-MsASR 基准,评测全模态大语言模型在长篇多说话人语音识别(MsASR)上的表现,覆盖 6 种语言、最长 30 分钟录音和最多 20 个说话人场景,并提供并行音视频输入以检验跨模态一致性。评测显示主流全模态 LLM 存在明显性能瓶颈,tcpWER 频繁超过 100%,细粒度时间定位、说话人区分和跨模态协同是未来关键挑战。

10月21日周三
  1. Hugging Face Blog53

    IBM 发布 Granite Speech 5.0 系列语音模型,含新增 2B 及两款更新版本

    IBM 在 Hugging Face 发布 Granite Speech 5.0 系列:新增 granite-speech-5.0-2b 语音语言模型,并更新 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。2B 版支持六语种转录与翻译、2000 词关键词偏置,英文平均 WER 5.06%,在开源权重 ASR 模型中排名第 2;Turbo CTC 版扩展至七语种并提速约 1.6 倍至 19,870 RTFx;4.1 2B Plus 说话人归因与时间戳更准,长语音 WER 降 24%。三款模型均为 Apache 2.0 许可,支持 Transformers、vLLM、llama.cpp 等。

    推荐理由:官方给出各模型在 Open ASR Leaderboard 上的 WER、RTFx 和说话人归因误差对比数据,读者可据此挑选适合的语音模型。

  2. arXiv · cs.CL23

    码混合与母语双向迁移:文本与语音领域系统综述

    arXiv 论文首次系统综述码混合(CM)文本与语音和母语之间的双向迁移研究,按迁移方向、路径和模态建立分类体系。综述发现迁移大多是母语流向 CM 设定,反向迁移较新且主要通过对齐助力;文本与语音研究方法相通但很少互相引用。在共享语音基准上,母语数据的帮助大于新架构。

  3. arXiv · cs.AI33

    SLM-SS:基于 token 与语音语言模型的语音分离方法

    研究者提出 SLM-SS,一种基于 token 的生成式语音分离框架,用语音语言模型建模多说话人混合语音。在 Libri2Mix 上,采用 per-talker NAR 的 SLM-SS 达到 6.92% WER,接近纯 codec 重建水平;WavTokenizer 变体去掉 NAR 精修,在评测的分离系统中获得最高主观质量均分,且在未见过的噪声与中文混合语音上 UTMOS 和 DNSMOS 仍优于判别式基线,无需微调。

  4. arXiv · cs.AI30

    SMART:基于上下文评分标准的 ASR 语义分段映射与评估框架

    arXiv 论文提出 SMART 框架,将 ASR 语义评估转化为上下文感知的分段级后果评估,通过结构化评分标准给出后果标签并量化 Semantic Impact Error Rate(SIER)。在多数投票人工标注上 SMART 达到 0.843 F1,高于直接 LLM 判断的 0.745,且对评估模型的选择相对不敏感。配套的无参考评分标准修正方法在两个数据集上相比 w/o Rubric 基线再降低 MER 0.85-0.98 个百分点、SIER_lex 1.18-1.65 个百分点。

  5. arXiv · cs.AI17

    VISH-ASR:面向 Speech-LLM 上下文 ASR 的 Viterbi 引导热词选择

    研究提出 VISH,一个免训练、即插即用的热词预选框架,通过在帧级 CTC 后验上直接验证候选词的声学证据来支持 Speech-LLM 上下文 ASR。在五个 benchmark 上,M-VISH 的 Best-F1 较强学习式检索基线最高提升 11.7% 绝对值,并在 2,000 候选时将候选搜索延迟降低 75.2%。Bi-MVISH 则利用反向证据增强验证鲁棒性。

10月20日周二
  1. arXiv · cs.CL21

    在警方音频数据中利用不可靠 ASR 进行可靠关键词估计的新方法

    一项 arXiv 研究提出结合现成 ASR 输出与少量人工标注样本,依据 Prediction Powered Inference 和 Design-based Supervised Learning 框架对 ASR 系统性错误做事后校正。在巴尔的摩和芝加哥警方无线电通讯数据上,可获统计有效置信区间的领域关键词比例从仅用 ASR 的 43.0%、仅用人工标注的 27.2% 提升至 56.2%。

  2. arXiv · cs.CL32

    Monsoon:面向 50 种低资源语言 ASR 的可扩展自发语音数据收集框架

    Monsoon 是一个大规模收集自发语音数据的框架,用于解决低资源语言 ASR 缺少准确转写数据的问题,已收集 50 种语言的语音,并分析了七个共 3,500 小时的语料库。同等数据量下,其质量流程使语义 WER 相对降低 10-39%;Whisper 在 Monsoon 数据上微调后,在对话基准上语义 WER 降低 20-44 点。框架、质控模型和微调模型均已开源。

10月18日周日
  1. arXiv · cs.CL19

    双任务向量合并:利用情感与 ASR 知识实现低资源阿尔茨海默病语音检测

    研究者提出 Dual Task Vector Merging 方法,向冻结的 wav2vec 2.0 各 Transformer 层注入由情感和 ASR 微调模型导出的任务向量,用于阿尔茨海默病语音检测,仅需训练逐层合并系数与线性分类头,更新参数不到全量微调的 0.1%。在 ADReSS 和 ADReSSo 的说话人独立实验中优于 frozen probe、LoRA 和全量微调,与 LoRA 结合效果最佳;PROCESS 三分类任务及 20%、40%、80% 低资源设置下也验证了增益。

10月17日周六
  1. arXiv · cs.CL15

    Whisper 在病理语音下的 ASR 个性化:LoRA 适配器研究准确率、效率与时长影响

    一项发表于 SPECOM 2026 的研究在单说话人病理语音场景下,对 Whisper 中的 LoRA 适配做了组件级分析。结果显示:全注意力层的 LoRA 提供最可靠的准确率和最佳时间-准确率权衡;模型扩容虽能降低错误,但无法消除说话人失配;中等长度语音受益最大,短和长语音仍是难点。研究强调适配器位置与依赖时长的评估在数据稀缺个性化场景中的重要性。

  2. arXiv · cs.CL12

    DYNARTmo 发音动态模型的声学与气动扩展及 overlap-and-add 语音合成

    Kröger 为发音动态模型 DYNARTmo 引入声学与气动扩展:手势控制轨迹确定声道几何并转换为带鼻腔分支的声管,集总气动网络将声门运动与肺压映射为气流和声门上压力存储。帧级声学响应通过 overlap-and-add 合成叠加,并以德语词"Tasse""Muse""Lade"演示元音、鼻音、边音、擦音和塞音的协调。实现目前以声音可辨识度为主,独立感知评估尚未完成。

  3. arXiv · cs.CL51

    arXiv 论文评测 Qwen3-TTS 语音克隆的条件方式、域外表现与失败模式

    一篇 arXiv 论文系统评测 Qwen3-TTS 两种克隆接口(ICL 与 X-Vector),对比 Chatterbox、XTTS-v2 和 F5-TTS,覆盖朗读、会议、情感和空管无线电语音,使用十八项客观指标、LLM 评审与听感测试。结果显示两种接口各有优势,ICL 音色更准但对短参考转写错误敏感;语音域差异解释的方差是系统选择的四倍;Qwen3-TTS 可懂度和音高占优但韵律落后,现有反欺诈对策无法识别其克隆音频,空管无线电语音对所有系统都失败。代码和音频已开源。

10月16日周五
  1. arXiv · cs.CL33

    ConvexLLM:用凸包语音接口扩展通用音频智能

    ConvexLLM 是一个通用语音与音频语言模型,其 C-Gate 接口将音频表示为冻结文本嵌入的连续凸组合。该模型在 VoiceBench 十一项任务上取得 75.36 的聚合分数,是对比的开源权重模型中最高,MMAU Test-mini 准确率为 62.50%。与 2B 参数解码器的对比显示,C-Gate 在语音任务聚合表现上优于 MLP 和 Q-Former 接口,文本任务表现接近 MLP,语音知识与推理任务优势最大。

  2. arXiv · cs.CL18

    SITAR:用于自动语音识别评测的情境失真度量

    研究者提出 SITAR,一种自动语音识别(ASR)的情境失真度量,通过有界递归公式将情境严重度与累积程度聚合为统一分数。SITAR 以 BERT 家族的轻量回归器实现,单次前向传播即可对参考-假设对打分,无需依赖 LLM 评测带来的高额计算成本。验证协议涵盖宏观与微观层面的外在效度和评分器内在可靠性,完整代码、模型权重与数据集将在内部审查后发布。

  3. arXiv · cs.AI43

    ELLSA 2:支持语音、表情与手势的全双工端到端对话模型

    研究者提出 ELLSA 2,一个端到端全双工对话模型,联合优化语音交互与流式手势表情生成,在语言沉默时仍可持续生成非语言行为。模型通过上下文语义调用与模板引导实现语义手势生成,并建立对话感知的共语手势数据与评测管线。实验显示其与开源全双工语音交互模型相当,在手势与表情指标上超越级联基线,语义模板引导显著提升语义手势质量。

  4. arXiv · cs.AI38

    Qwen-Audio-Jev:用于音频决策的统一接口

    研究者在 Qwen-Audio-3.1-ASR-Flash-Next 基础上加入专用 Jev 决策头,推出 Qwen-Audio-Jev,通过 CHOICE、NOUL、SCORE 三种决策原语统一音频选择、二值判断与评分。模型在 MMAU-mini 上达到 78.70% 准确率、MMSU 上 84.06%,VoxCeleb1-O 等错误率 6.50%,NISQA 归一化平均绝对误差 0.1062。相比原模型推理速度提升约 20 倍,适用于大规模音频筛选、说话人验证和自动质量评估等高吞吐场景。

10月15日周四
  1. arXiv · cs.CL57

    MultiPartyTurnBench:评测多方语音对话中话轮控制的基准发布

    作者发布 MultiPartyTurnBench(MPTB),包含 240 段合成、信道分离的 2 至 5 人对话和六种交互类型,评测话轮结束(EOT)检测与打断(INT)检测两项任务。基线模型 EOT 召回率达 82.5-92.6%,但五个全双工智能体在选择性打断处理上接近随机水平(46.9-54.7%),Gemini-3.8-Live 对 97.7% 的附和信号让出话轮,MiniCPM-o-4.5 仅响应 1.4% 的真实打断。论文指出选择性话轮控制仍是多方语音交互的未解难题。

    推荐理由:基准把真实话轮转换与易混淆的非事件分开评测,并给出五个全双工智能体在选择性打断上的具体短板数据。

  2. arXiv · cs.CL33

    AFFIRM:修复文本更新后语音模型知识访问的冻结仿射场方法

    论文提出 AFFIRM(Affine Fields for Interface Repair across Modalities),在知识检查点冻结的前提下,通过先学习并冻结基础修正、再叠加查询级修正的可拆卸算子,单次前向修复语音访问。在 PopQA 平衡合成语音上与 SALSA、低秩 ReFT 相比未显出明确优势;在 SLUE-SQA-5 录音问题上,PopQA 拟合的 AFFIRM 算子免重训迁移,ROUGE-L 较 No Repair 基线提升 0.0941。

  3. arXiv · cs.CL34

    Anuvani-Diarization:跨 22 种语言的零样本说话人日志与标注规范研究

    Anuvani-Diarization 在 IndicDiarBench 上覆盖印度 22 种官方语言的零样本说话人日志任务,通过不确定性感知的 silver 监督适配自监督端到端分割模型。在 1,164 条录音上 duration weighted DER 达 16.78%,为所测系统最低,仅次于已发表最佳结果 16.0%,并在 22 种语言中的 14 种领先三个最强对手。研究还发现 utterance 级标注规范这一隐藏变量影响 1.9 至 4.1 个 DER 点。

10月14日周三
  1. arXiv · cs.CL28

    语音基础模型中基于语言选择性维度的语码转换检测方法

    一项提交至 ICASSP 2027 的研究提出直接从语音中检测语码转换(CS)的轻量方法:利用单语录音识别预训练语音编码器中的语言选择性隐层维度,并聚合其帧级激活做出预测。在 CS-FLEURS 的 14 个语言对上,Whisper-small 编码器平均 F1 达 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751,可用于筛选多语训练语料。

  2. arXiv · cs.AI33

    熟知声音克隆与人格迁移在虚拟角色设计中的局限

    一项发表于 arXiv 的研究通过两项实验检验熟悉声音的克隆语音是否会将人格印象迁移到虚拟角色上:实验 1 在真实大学场景使用学生熟悉的讲师克隆声音,实验 2 在线上使用社交媒体创作者的声音。结果显示人格迁移证据有限,效应具有选择性且不跨特质或情境泛化,线上实验中声音线索仅激活对说话者的预期而未重建整体人格印象,缓和了克隆声音会直接操纵用户将虚拟角色视为社会行动者的担忧。

  3. arXiv · cs.CL31

    PACT:面向表达力与音色保留的语音到语音翻译实用提示词框架

    arXiv 论文提出 PACT,一种面向目标空间的提示词框架,用于保留语音者身份与情感、语调、节奏等语用信息的语音到语音翻译。该框架从源语音提取语用线索,投影到目标语言表达空间并校准后,转化为连续提示词驱动冻结的语音生成器。在双向西班牙语-英语 TOPI 评测中,PACT 在内容保真、音色保留与表达保留指标上综合表现最佳。

  4. arXiv · cs.CL18

    如何从语音信号直接估计 surprisal:一种基于重要性采样的方法

    一项 arXiv cs.CL 研究提出用语音 LM 直接从语音信号估计 surprisal,摆脱依赖文本转录的瓶颈。该工作引入重要性采样估计器,通过 TTS 模型对抽象语言单元的多种声学实现边缘化,在瞳孔测量听感实验中,发现该方法比逐实现估计更准确预测瞳孔扩张,亚词汇单元的 surprisal 也有预测力;但整体上 surprisal 对瞳孔变化的预测力不强。

10月11日周日
  1. arXiv · cs.AI34

    GAMW:面向 TTS 溯源的生成感知梅尔域水印方法

    研究者提出 GAMW,一种在 TTS 生成过程中嵌入水印的框架,在波形合成前向生成表征注入内容自适应的 16-bit 多比特水印残差,解码端结合 focal modulation 与动态逐比特加权。在两个 TTS 骨干上的实验显示,相比最强基线,GAMW 在单一扰动和复合扰动下解码准确率分别提升 9.2 和 23.5 个百分点,同时保持语音质量,代码已开源。

  2. arXiv · cs.AI35

    基于Oracle引导微调的生成式ASR后编辑:从N-best候选中选择或改写

    该研究提出oracle引导微调方法,让LLM通过三个数据池学习"选择或改写"策略来后编辑ASR转录:corrections池教选择、regularizers池抑制不必要改写、hard negatives池压制幻觉。在私有数据集上约3B参数起效果明显优于随机子集微调,但CommonVoice上的结果不够确定,作者认为公开朗读语音文本可能与LLM预训练数据重叠、掩盖真实收益。

10月10日周六
  1. arXiv · cs.CL28

    VoTSpeech:在指令跟随 TTS 中将音色设计与语音生成解耦

    VoTSpeech 通过显式中间语音潜变量,将音色设计与语音生成解耦。该系统基于共享语言模型骨干,先用 flow 模块从文本指令预测连续语音潜变量,再同时作为语言模型与 Acoustic DiT 的共享条件,最后由 audio VAE 解码器生成波形;语音潜变量由 speaker embeddings 与时间池化的 audio VAE 特征联合监督。VoTSpeech 在 InstructTTSEval-ZH 上表现强劲,与强开源模型相比具备竞争力且保持高自然度,代码、模型与音频样本已开源。