modelsphere 开源 LLM AutoTune：自动为大模型寻找最佳 GPU 服务配置

modelsphere 在 GitHub 开源 LLM AutoTune，自动在用户 GPU 上为大模型寻找最优 serving 配置。支持 sglang 和 vLLM 的搜索空间、基于 LLMBench 统一基准测量并与生产基线对比，配置越过延迟或质量红线即被拒绝。策略以实现 HTTP API 的容器形式接入，自带随机搜索，状态存于 Postgres 支持；仓库基于 Apache 2.0 许可，提供无 GPU 的 kind 集群演示脚本。