Reddit · r/LocalLLaMA· /u/Acceptable-Cycle4645·· 11 天前AI 评分46
Drama3 登陆 audio.cpp:RTX 5090 上最高 5 倍实时速度,8 GB VRAM 内可跑 2 倍实时
Drama3 in audio.cpp: Up to 5× faster than real time at full speed, or 2× real-time speed with < 8 GB of VRAM on an RTX 5090!
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Acceptable-Cycle4645
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x75uyi/drama3_in_audiocpp_up_to_5_faster_than_real_time/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Drama3 现已获得 audio.cpp 支持,在 RTX 5090(Q4_k)上全速运行最高可达 5 倍实时速度,采用 CPU weight offload 分级释放模式时低于 8 GB VRAM 也能达到约 2 倍实时速度(RTF 0.484)。该模型还支持 Vulkan 和 Metal,目前仍存在多说话人生成出现异常静音、Vulkan 触发 token 上限等问题,需更多迭代才会进入正式版本,社区贡献者欢迎参与优化。
来源:Reddit · r/LocalLLaMA · reddit.com