GitHub · 灵魂体仓库·· 7 天前AI 评分22
miminashi 发布 llm-server-ops:用 Claude Code Skills 管理 llama-server 推理服务器
miminashi/llm-server-ops
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/miminashi/llm-server-ops
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
miminashi 在 GitHub 发布 llm-server-ops,这是一套基于 Claude Code Skills 的 LLM 推理服务器运维工具集,管理 7 台 GPU 服务器上的 llama-server 及相关资源,涵盖 gpu-server、llama-server、discord-notify 三个技能。默认启动 Qwen3.6-35B-A3B-GGUF:UD-Q4_K_XL 模型,上下文长度 131072;aws-gpu01/02 以 RPC 分散配置运行 13 GPU / 200GB。支持 OpenAI 兼容 API、ttyd 监控(7681/7682 端口)及可注册为全局 Claude Code 插件。
来源:GitHub · 灵魂体仓库 · github.com