Reddit · r/LocalLLaMA· /u/SavingsWeather1659·· 2 小时前AI 评分47
Fast-Float:实时数字人生成服务器,单张 T4 上跑出 90-105 FPS
Fast-Float: Realtime avatar generation server
来源与原文
Reddit · r/LocalLLaMA
作者:/u/SavingsWeather1659
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xilp3r/fastfloat_realtime_avatar_generation_server/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开发者发布 Fast-Float,一个针对单 GPU 优化的 FLOAT 实时数字人推理服务器。在免费 Colab T4 GPU 上从 30 FPS 提升到 90 FPS,经 TensorRT 加速可达 105 FPS,每路并发用户约占 3 GB VRAM。项目集成 LiveKit 与 WebRTC 支持实时语音智能体,并支持接入 OpenAI 和 Gemini 等 AI 服务,代码已在 GitHub 开源。
来源:Reddit · r/LocalLLaMA · reddit.com