韵律风格能否仅从文本推断?来自无监督声学聚类的证据
一项 arXiv 研究检验了文本是否足以决定语音的韵律风格:对 1,200 小时会话语料库中 6 名说话人的语音做声学聚类,再用 12 种文本嵌入模型预测。文本预测准确率超过多数类基线(top-3 提升 +0.111),但词袋模型即达其中四分之三,句子嵌入仅再加 +0.026,说明文本主要通过用词而非语义影响韵律风格。
新闻、仓库与研究,按时间排列。
一项 arXiv 研究检验了文本是否足以决定语音的韵律风格:对 1,200 小时会话语料库中 6 名说话人的语音做声学聚类,再用 12 种文本嵌入模型预测。文本预测准确率超过多数类基线(top-3 提升 +0.111),但词袋模型即达其中四分之三,句子嵌入仅再加 +0.026,说明文本主要通过用词而非语义影响韵律风格。
一篇 arXiv 论文对僧伽罗语 ASR 研究进行了首次批判性综述,梳理从 HMM、深度神经网络到 wav2vec 2.0、XLS-R、Whisper 和 MMS 等自监督预训练模型的发展。论文指出各系统 WER 因语料、数据划分和评分方式不同而难以直接比较,文献中唯一受控对比显示仅语料修正就带来 18.1% 的相对 WER 下降,并总结出六大研究缺口与未来研究路线图。
pyannote 在 Hugging Face 发布说话人日志管线 speaker-diarization-community-1,改进说话人分配与计数,并新增独占式说话人日志输出,便于与转写时间戳对齐。
推荐理由:原文给出十多个学术基准上的说话人日志错误率对比,读者可据此量化该模型相对上一代的实际提升幅度。
MiniMax 开源了 MiniMax H3 的 H3-Base 权重,该系统可统一理解文本、图像、视频与音频,并生成最长 15 秒、带 32 kHz 立体声的视频,768p 输出经 H3-Regenerate-2K 可达 2K。
推荐理由:原文给出 H3-Base 架构细节、权重拆分和 SGLang/vLLM/diffusers 部署命令,可据此自行本地部署复现。
FermionResearch 在 Hugging Face 发布 Phonon-2,称其为 900 MB 以下英文识别最准确的开源模型,在 Open ASR Leaderboard 七个英文测试集上平均词错率 5.21%,164 MB 体积达到 2.5 GB 教师模型 parakeet-tdt-0.6b-v3 的精度,编码器每个权重以约 2.1 bit 存储。
推荐理由:原文给出七套英文测试集的平均词错率和多平台实时率数据,可以据此比较小体积语音识别模型之间的实际精度差距。
NVIDIA 在 Hugging Face 发布开放权重模型 Nemotron-3-Diarization,用于判断真实音频中谁在何时说话,支持流式与离线推理,最多处理 8 个说话人。
推荐理由:模型卡给出与 diar_streaming_sortformer_4spk-v2.1 在多个基准和延迟档位下的 DER、SCA 与 RTFx 对比,读者可据此评估升级收益。
研究者开发了 VoCa,一个能在多轮对话中让语音智能体协调语音与画布上视觉对象创建、标注和注意力引导的系统。此前通过观察研究和设计工作坊形成了语音-画布交互的设计空间,随后开展为期五天、18 名参与者的部署测试,考察可用性、使用模式与改进需求。结果显示该交互在学习、工作和日常生活中的应用机会,也暴露了智能体言行难以被用户跟随和影响的协调难题。
开源自监督学习框架 SepRQ 用冻结随机投影码本上的伪源分离目标取代掩码预测,面向多说话人语音表征学习。它在 SUPERB benchmark 的 Speaker Diarization 与 Speech Separation 上达到 SOTA,在 Base 和 Large 规模均超过 WavLM 等模型,推理参数仅 85.68M,并在 WSJ0-3Mix 三说话人混合上表现突出。相比闭源的 C-HuBERT 和 SA-WavLM,SepRQ 已开源。
一项 arXiv 研究提出免训练的对比激活添加(CAA)方法,从少量标注语音数据中导出 SpeechLLM 的任务导向激活向量,在推理时加入表示空间即可强化目标语音任务。结合提示词后,该方法在 ASR、情绪识别(ER)等多数评测任务上优于仅用提示词,并可迁移到域外数据,还能用脚本规范化方向强制目标语言的书写体系。
研究者提出神经语音编码器 GS-Codec,将 Gaussian splatting 从 3D 场景重建迁移到一维潜空间,用 1D 高斯基元的信号分解取代传统 VQ-VAE 式量化瓶颈,并通过 GS Predictor Net 单次前向回归基元参数。单个训练好的 checkpoint 无需重训练即可通过调整基元数量和每参数位深实现比特率控制。在相近码率下,其在 SIM、STOI、UTMOS 上持平或超越 EnCodec 和 DAC,WER 相当,代码与音频样本已开源。
XTurnix 论文提出一个紧凑文本模型,将实时对话轮次控制建模为基于聆听或说话状态的两个二分类决策,并从完整对话历史预测单一控制 token。模型在 550 万个自动生成的因果动作样本上预训练,再在合成的多轮样本上微调;在四个公开基准上,XTurnix 在全部 SemanticVAD 和 LiveKit 分割上取得最佳结果,在 Smart-Turn Bench 上与原生 Smart-Turn 模型持平,在 Easy-Turn 上取得最高的不完整轮次准确率;在自建平衡基准上达到 89.06% 准确率,比最强第三方基线 68.75% 高出超过 20 个百分点,四个类别 F1 在 84.21% 至 90.63% 之间。代码和交互演示已开放。
推荐理由:论文把对话轮次控制统一为双二分类决策,并在多个公开基准上给出对比结果,读者可据此评估这类紧凑控制器的实际水平。
研究提出 Factorized DSM(F-DSM),改进基于 LLM 的流式语音识别中 Delayed Streams Modeling 的 padding token 设计。F-DSM 将等待概率从原 LLM 词表分布中分离,避免在等待步骤执行大词表 softmax。在 Corpus of Spontaneous Japanese 和 LibriSpeech 上识别性能优于 DSM,同时大幅降低 GPU 内存占用、小幅提升推理速度,并减少纯文本困惑度的退化。
Google 发布9月AI动态汇总,主打新前沿模型 Gemini 4 Argon,具备高级推理与 1-million-token 输出上限,正通过 Fairwind Program 向可信网络防御者分阶段推出。
EMA Lightning 是一个开源(Apache 2.0)的土耳其语文本转语音模型,由 5.6M 参数 DiT 声学模型和 3M 参数 vocoder 组成,总计仅约 34 MB。在 Freya-TR-Eval 上 WER 为 0.92%,低于 ElevenLabs v4、Gemini 3.8 和 2.38B 参数的 Trendyol-TTS 等所有被测系统;在 RTX 4090 上首批音频仅需 3.86 ms,比实时快 440×(批处理达 1,316×)。模型可完全离线运行于 GPU 或 CPU,无需 API key,文本和音频不离开本机,成本约 $0.0085 per million characters。
Cactus Compute 团队发布面向手机、可穿戴、机器人、智能家居、汽车和微控制器的端侧语音识别模型 Whistle,整个模型为单个 16.9 MB 文件,无需 GPU 和外部依赖,与 Needle 共用同一运行时。支持英德法西意荷波七种语言的转写(单次最长 30 秒)、词级时间戳和语音嵌入,静音返回空文本而非编造句子。WER 基于 86,174 条语音实测,并用与 Whisper、Moonshine 已发布数据对比;精度为 Whistle 2 至 4 bit,Whisper fp32,Moonshine int8。
推荐理由:原文给出了完整的 WER 基准、精度设置和与 Whisper、Moonshine 的对比口径,读者可以据此评估端侧语音识别的实际表现。
Hugging Face 推出面向开源与多语言 TTS 的 Open TTS Leaderboard,用客观指标替代难以扩展的 arena 式人工投票。评测维度包括基于 Qwen3 ASR 的 WER/CER 可懂度、H200 GPU 上的 RTFx 与 TTFA 速度、以及 WavLM 嵌入余弦相似度(SIM)衡量说话人相似度,将单模型评测从数周缩短到数小时。
推荐理由:用 WER、SIM、TTFA 等客观指标把评测周期从数周缩到数小时,并解释了开源模型在 arena 榜单上代表性不足的原因。