跳到正文
Reddit · r/LocalLLaMA· /u/Acceptable-Cycle4645·· 11 天前AI 评分46

Drama3 登陆 audio.cpp:RTX 5090 上最高 5 倍实时速度,8 GB VRAM 内可跑 2 倍实时

Drama3 in audio.cpp: Up to 5× faster than real time at full speed, or 2× real-time speed with < 8 GB of VRAM on an RTX 5090!

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Acceptable-Cycle4645

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1x75uyi/drama3_in_audiocpp_up_to_5_faster_than_real_time/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Drama3 现已获得 audio.cpp 支持,在 RTX 5090(Q4_k)上全速运行最高可达 5 倍实时速度,采用 CPU weight offload 分级释放模式时低于 8 GB VRAM 也能达到约 2 倍实时速度(RTF 0.484)。该模型还支持 Vulkan 和 Metal,目前仍存在多说话人生成出现异常静音、Vulkan 触发 token 上限等问题,需更多迭代才会进入正式版本,社区贡献者欢迎参与优化。

来源:Reddit · r/LocalLLaMA · reddit.com