跳到正文
10月6日周二
  1. GitHub · 去对齐工具与仓库61

    yt-llm-service 开源:YouTube 音频本地转写加 LLM 结构化笔记

    GitHub 开源项目 yt-llm-service 提供基于 FastAPI 的 YouTube 音频转写服务,用 WhisperX large-v3-turbo 做转写和说话人分离,并经 llama.cpp 侧车调用本地 gpt-oss-20b MXFP4 生成结构化 Markdown 笔记。

    推荐理由:原文给出完整的部署参数、VRAM 管理机制和实测速度数据,读者可以按自己的显卡配置直接复用这套本地转写方案。

  2. arXiv · cs.AI34

    关系合成:面向 Foley 音频与检索增强音频生成的结构介导拼接合成方法

    arXiv 论文提出 relational synthesis(关系合成),一种拼接合成的变体,用类 Gromov 的关系结构代价替代目标代价,将参考音频 R 的时间结构与幅度变化迁移到源音频 S 的颗粒重组中,使合成结果保持与 S 声学一致且不持续复制 S 或 R 的片段。实验显示该方法可与神经 RAG 自然结合,在时间一致性、声学保真与泄漏指标上表现良好。论文已提交 ICASSP 2027。

  3. arXiv · cs.CL43

    韵律风格能否仅从文本推断?来自无监督声学聚类的证据

    一项 arXiv 研究检验了文本是否足以决定语音的韵律风格:对 1,200 小时会话语料库中 6 名说话人的语音做声学聚类,再用 12 种文本嵌入模型预测。文本预测准确率超过多数类基线(top-3 提升 +0.111),但词袋模型即达其中四分之三,句子嵌入仅再加 +0.026,说明文本主要通过用词而非语义影响韵律风格。

  4. arXiv · cs.CL28

    僧伽罗语低资源语音识别(ASR)研究综述:方法、挑战与未来方向

    一篇 arXiv 论文对僧伽罗语 ASR 研究进行了首次批判性综述,梳理从 HMM、深度神经网络到 wav2vec 2.0、XLS-R、Whisper 和 MMS 等自监督预训练模型的发展。论文指出各系统 WER 因语料、数据划分和评分方式不同而难以直接比较,文献中唯一受控对比显示仅语料修正就带来 18.1% 的相对 WER 下降,并总结出六大研究缺口与未来研究路线图。

  5. GitHub · 去对齐工具与仓库57

    Operonx 开源工作流引擎发布,同一 async DAG 兼顾批处理与流式语音流水线

    batman1m2001-cyber 在 GitHub 发布 Operonx,一个支持 yield 的 async DAG 工作流引擎,同一套图可跑 Airflow 式批任务和 VAD → STT → LLM → TTS 的流式语音流水线。

    推荐理由:原文给出了 yield 流式调度、多供应商 LLM 一行切换和内置追踪等具体设计,读者可据此评估是否用于自己的流水线。

  6. GitHub · 去对齐工具与仓库64

    innestemme:Rust 本地语音助手引擎开源,支持 Whisper 与 ESPHome 卫星

    作者开源了 Rust 编写的本地语音助手引擎 innestemme:音频经 UDP 传输,由 Whisper 或 Kyutai STT 转写,规则处理灯光、音乐、计时器、天气、公交等常见请求,其余交给 OpenAI 兼容接口的本地小模型(如 Ollama 跑 Qwen3 4B)选择技能,回答用 Pocket TTS(英语)或 Piper(挪威语)播报。

    推荐理由:作者给出了从拾音到播报的完整本地语音链路,并附上 M4 Pro 上的逐级延迟与 TTS 实测数据,可作本地部署参考。

  7. Reddit · r/LocalLLaMA58

    Cactus 发布 16.9MB 语音识别模型 Whistle,体积为 Whisper base 的 1/9

    Cactus Compute 发布面向超小型设备的语音识别模型 Whistle,文件仅 16.9MB,官方称多数场景优于 Whisper base,且体积小 9 倍、速度快 6 倍。

    推荐理由:原文给出了与 Whisper base 在 LibriSpeech、FLEURS 等基准上的 WER 对比数据,可据此评估小体积语音识别模型的实际精度。

10月5日周一
  1. GitHub · 灵魂体仓库61

    Meetmate 开源:让 AI Agent 以语音参会者身份加入 Google Meet、Zoom 和 Discord

    caty-ai 开源 Meetmate,一个让自有 AI Agent 以带头像和语音的真实参会者身份加入 Google Meet、Zoom 和 Discord 语音频道的工具,支持唤醒词、打断说话和后台任务委派。

    推荐理由:README 给出了完整的依赖清单、平台支持范围和各路径的验证状态,读者可据此评估部署成本与适用场景。

  2. Hugging Face · 趋势模型68

    pyannote 发布 speaker-diarization-community-1 说话人日志模型

    pyannote 在 Hugging Face 发布说话人日志管线 speaker-diarization-community-1,改进说话人分配与计数,并新增独占式说话人日志输出,便于与转写时间戳对齐。

    推荐理由:原文给出十多个学术基准上的说话人日志错误率对比,读者可据此量化该模型相对上一代的实际提升幅度。

  3. Hugging Face · 趋势模型71

    MiniMax 开源全模态生成系统 MiniMax H3 权重

    MiniMax 开源了 MiniMax H3 的 H3-Base 权重,该系统可统一理解文本、图像、视频与音频,并生成最长 15 秒、带 32 kHz 立体声的视频,768p 输出经 H3-Regenerate-2K 可达 2K。

    推荐理由:原文给出 H3-Base 架构细节、权重拆分和 SGLang/vLLM/diffusers 部署命令,可据此自行本地部署复现。

  4. Hugging Face · 趋势模型68

    FermionResearch 发布 Phonon-2 语音识别模型,164 MB 平均词错率 5.21%

    FermionResearch 在 Hugging Face 发布 Phonon-2,称其为 900 MB 以下英文识别最准确的开源模型,在 Open ASR Leaderboard 七个英文测试集上平均词错率 5.21%,164 MB 体积达到 2.5 GB 教师模型 parakeet-tdt-0.6b-v3 的精度,编码器每个权重以约 2.1 bit 存储。

    推荐理由:原文给出七套英文测试集的平均词错率和多平台实时率数据,可以据此比较小体积语音识别模型之间的实际精度差距。

  5. Hugging Face · 趋势模型52

    NVIDIA 开放 Nemotron-3-Diarization 说话人分离模型权重

    NVIDIA 在 Hugging Face 发布开放权重模型 Nemotron-3-Diarization,用于判断真实音频中谁在何时说话,支持流式与离线推理,最多处理 8 个说话人。

    推荐理由:模型卡给出与 diar_streaming_sortformer_4spk-v2.1 在多个基准和延迟档位下的 DER、SCA 与 RTFx 对比,读者可据此评估升级收益。

10月4日周日
  1. arXiv · cs.AI16

    VoCa:为语音对话智能体设计语音-画布交互

    研究者开发了 VoCa,一个能在多轮对话中让语音智能体协调语音与画布上视觉对象创建、标注和注意力引导的系统。此前通过观察研究和设计工作坊形成了语音-画布交互的设计空间,随后开展为期五天、18 名参与者的部署测试,考察可用性、使用模式与改进需求。结果显示该交互在学习、工作和日常生活中的应用机会,也暴露了智能体言行难以被用户跟随和影响的协调难题。

  2. arXiv · cs.CL33

    SepRQ:基于免掩码多尺度源分离的自监督语音混合表征学习

    开源自监督学习框架 SepRQ 用冻结随机投影码本上的伪源分离目标取代掩码预测,面向多说话人语音表征学习。它在 SUPERB benchmark 的 Speaker Diarization 与 Speech Separation 上达到 SOTA,在 Base 和 Large 规模均超过 WavLM 等模型,推理参数仅 85.68M,并在 WSJ0-3Mix 三说话人混合上表现突出。相比闭源的 C-HuBERT 和 SA-WavLM,SepRQ 已开源。

  3. arXiv · cs.CL42

    SpeechLLM 如何用对比激活添加(CAA)实现免训练任务定向

    一项 arXiv 研究提出免训练的对比激活添加(CAA)方法,从少量标注语音数据中导出 SpeechLLM 的任务导向激活向量,在推理时加入表示空间即可强化目标语音任务。结合提示词后,该方法在 ASR、情绪识别(ER)等多数评测任务上优于仅用提示词,并可迁移到域外数据,还能用脚本规范化方向强制目标语言的书写体系。

  4. arXiv · cs.AI39

    GS-Codec:用 Gaussian Splatting 瓶颈替代量化器的神经语音编码器

    研究者提出神经语音编码器 GS-Codec,将 Gaussian splatting 从 3D 场景重建迁移到一维潜空间,用 1D 高斯基元的信号分解取代传统 VQ-VAE 式量化瓶颈,并通过 GS Predictor Net 单次前向回归基元参数。单个训练好的 checkpoint 无需重训练即可通过调整基元数量和每参数位深实现比特率控制。在相近码率下,其在 SIM、STOI、UTMOS 上持平或超越 EnCodec 和 DAC,WER 相当,代码与音频样本已开源。

10月3日周六
  1. arXiv · cs.CL53

    XTurnix:基于两态二分类的大规模自监督轮次控制模型

    XTurnix 论文提出一个紧凑文本模型,将实时对话轮次控制建模为基于聆听或说话状态的两个二分类决策,并从完整对话历史预测单一控制 token。模型在 550 万个自动生成的因果动作样本上预训练,再在合成的多轮样本上微调;在四个公开基准上,XTurnix 在全部 SemanticVAD 和 LiveKit 分割上取得最佳结果,在 Smart-Turn Bench 上与原生 Smart-Turn 模型持平,在 Easy-Turn 上取得最高的不完整轮次准确率;在自建平衡基准上达到 89.06% 准确率,比最强第三方基线 68.75% 高出超过 20 个百分点,四个类别 F1 在 84.21% 至 90.63% 之间。代码和交互演示已开放。

    推荐理由:论文把对话轮次控制统一为双二分类决策,并在多个公开基准上给出对比结果,读者可据此评估这类紧凑控制器的实际水平。

  2. arXiv · cs.CL27

    面向 LLM 流式 ASR 的因式分解延迟流建模 F-DSM

    研究提出 Factorized DSM(F-DSM),改进基于 LLM 的流式语音识别中 Delayed Streams Modeling 的 padding token 设计。F-DSM 将等待概率从原 LLM 词表分布中分离,避免在等待步骤执行大词表 softmax。在 Corpus of Spontaneous Japanese 和 LibriSpeech 上识别性能优于 DSM,同时大幅降低 GPU 内存占用、小幅提升推理速度,并减少纯文本困惑度的退化。

10月2日周五
10月1日周四
  1. Hugging Face · 趋势模型48

    EMA Lightning:8.6M 参数的开源土耳其语文本转语音模型,WER 低至 0.92%

    EMA Lightning 是一个开源(Apache 2.0)的土耳其语文本转语音模型,由 5.6M 参数 DiT 声学模型和 3M 参数 vocoder 组成,总计仅约 34 MB。在 Freya-TR-Eval 上 WER 为 0.92%,低于 ElevenLabs v4、Gemini 3.8 和 2.38B 参数的 Trendyol-TTS 等所有被测系统;在 RTX 4090 上首批音频仅需 3.86 ms,比实时快 440×(批处理达 1,316×)。模型可完全离线运行于 GPU 或 CPU,无需 API key,文本和音频不离开本机,成本约 $0.0085 per million characters。

  2. Hugging Face · 趋势模型52

    Cactus Compute 发布端侧语音识别模型 Whistle,整个模型仅 16.9 MB

    Cactus Compute 团队发布面向手机、可穿戴、机器人、智能家居、汽车和微控制器的端侧语音识别模型 Whistle,整个模型为单个 16.9 MB 文件,无需 GPU 和外部依赖,与 Needle 共用同一运行时。支持英德法西意荷波七种语言的转写(单次最长 30 秒)、词级时间戳和语音嵌入,静音返回空文本而非编造句子。WER 基于 86,174 条语音实测,并用与 Whisper、Moonshine 已发布数据对比;精度为 Whistle 2 至 4 bit,Whisper fp32,Moonshine int8。

    推荐理由:原文给出了完整的 WER 基准、精度设置和与 Whisper、Moonshine 的对比口径,读者可以据此评估端侧语音识别的实际表现。

9月30日周三
  1. Hugging Face Blog70

    Hugging Face 推出 Open TTS Leaderboard:多语言 TTS 与语音克隆的可扩展评测

    Hugging Face 推出面向开源与多语言 TTS 的 Open TTS Leaderboard,用客观指标替代难以扩展的 arena 式人工投票。评测维度包括基于 Qwen3 ASR 的 WER/CER 可懂度、H200 GPU 上的 RTFx 与 TTFA 速度、以及 WavLM 嵌入余弦相似度(SIM)衡量说话人相似度,将单模型评测从数周缩短到数小时。

    推荐理由:用 WER、SIM、TTFA 等客观指标把评测周期从数周缩到数小时,并解释了开源模型在 arena 榜单上代表性不足的原因。

9月25日周五
  1. GitHub · Blender AI 插件34

    The Hijacker:Blender 音频混音与 AI 处理插件(Alpha 版)

    Blender 插件 The Hijacker 进入 Alpha 阶段,用独立于 Blender 原生音频系统的 C++ 引擎为 Video Sequence Editor 提供专业混音与处理套件。它内置 9 通道调音台和实时 DSP 机架(压缩器、7 段 EQ、混响、噪声门、延迟),并提供 Voicefixer、Demucs、KNNVC、Piper TTS、Whisper 等 AI 机架,以后台线程运行。当前支持 Blender 4.5 Windows x64,macOS 和 Linux 构建已包含、实际测试仍在进行中。