Meshapplied 发布自托管 LLM API 开源工具 Goethe
先了解这件事
Meshapplied 在 GitHub 开源工具 Goethe，可将带 NVIDIA GPU 的 Linux 机器变成自托管的 LLM API 服务，兼容 OpenAI、Anthropic 和 LiteLLM 客户端，数据保留在用户自有硬件上。仓库采用 Apache-2.0 许可。 运行环境要求为 x86_64 或 ARM64 的 Linux 系统、580 及以上版本 NVIDIA 驱动，GPU 需为 Blackwell（如 RTX 5090、B200/B300）、Hopper（H100/H200/GH200）、Ada（RTX 4090、L40S 等）或 Ampere（A100、RTX 3090 等）架构。模型基于 SGLang 运行，支持按客户端发 key、限速与撤销，模型重启后可自动恢复加载。
AI 根据报道生成 · 2 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- GitHub · 去对齐工具与仓库精选Goethe 开源：把 Linux + NVIDIA GPU 机器变成 OpenAI/Anthropic 兼容的自托管 LLM API
meshapplied 发布开源工具 Goethe，可将带 NVIDIA GPU 的 Linux 机器变成自托管 API，兼容 OpenAI、Anthropic 和 LiteLLM 客户端，数据留在自有硬件上。模型基于 SGLang 运行，支持 continuous batching、prefix caching 和 CUDA graphs，并内置面向 Blackwell、Hopper、Ada 和 Ampere 的 NVFP4 内核，4-bit 模型显存占用约为全精度四分之一；支持按客户端发 key、限速与撤销，模型重启后自动恢复加载，仓库采用 Apache-2.0 许可，链接 https://github.com/meshapplied/goethe。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 1010月26日 02:00
- 近 24 小时变化
- -50%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。