GitHub · 3D 生成新仓库·· 5 天前AI 评分38
geonom 开源 ai-serve:本地 AI 网关整合 llama.cpp、TTS、STT 与图像生成,统一 OpenAI 兼容 API
geonom/ai-serve
来源与原文
GitHub · 3D 生成新仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/geonom/ai-serve
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
geonom 在 GitHub 发布 ai-serve Alpha 版:一个本地 AI 网关,把语言模型(llama.cpp)、语音合成、语音识别、图像生成和文档读取统一到 OpenAI 兼容 API(/v1/...)加一个仪表盘后面,模型按需加载、内存紧张时卸载。安装器提供 Gemma 4 E4B/E2B、Chatterbox 多语言 TTS、Whisper(WhisperX small)和 Iris-3B Turbo 图像生成等可选服务,下载经 sha256 校验。项目除 llama.cpp 外均以插件扩展,AGPL-3.0 授权,支持 Linux(NVIDIA、AMD、Vulkan、CPU)与 macOS(Apple Silicon),Windows 稍后支持。
来源:GitHub · 3D 生成新仓库 · github.com