跳到正文
GitHub · 3D 生成新仓库·· 5 天前AI 评分38

geonom 开源 ai-serve:本地 AI 网关整合 llama.cpp、TTS、STT 与图像生成,统一 OpenAI 兼容 API

geonom/ai-serve

来源与原文

GitHub · 3D 生成新仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/geonom/ai-serve

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

geonom 在 GitHub 发布 ai-serve Alpha 版:一个本地 AI 网关,把语言模型(llama.cpp)、语音合成、语音识别、图像生成和文档读取统一到 OpenAI 兼容 API(/v1/...)加一个仪表盘后面,模型按需加载、内存紧张时卸载。安装器提供 Gemma 4 E4B/E2B、Chatterbox 多语言 TTS、Whisper(WhisperX small)和 Iris-3B Turbo 图像生成等可选服务,下载经 sha256 校验。项目除 llama.cpp 外均以插件扩展,AGPL-3.0 授权,支持 Linux(NVIDIA、AMD、Vulkan、CPU)与 macOS(Apple Silicon),Windows 稍后支持。

来源:GitHub · 3D 生成新仓库 · github.com