跳到正文
GitHub · 灵魂体仓库·· 7 天前AI 评分22

miminashi 发布 llm-server-ops:用 Claude Code Skills 管理 llama-server 推理服务器

miminashi/llm-server-ops

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/miminashi/llm-server-ops

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

miminashi 在 GitHub 发布 llm-server-ops,这是一套基于 Claude Code Skills 的 LLM 推理服务器运维工具集,管理 7 台 GPU 服务器上的 llama-server 及相关资源,涵盖 gpu-server、llama-server、discord-notify 三个技能。默认启动 Qwen3.6-35B-A3B-GGUF:UD-Q4_K_XL 模型,上下文长度 131072;aws-gpu01/02 以 RPC 分散配置运行 13 GPU / 200GB。支持 OpenAI 兼容 API、ttyd 监控(7681/7682 端口)及可注册为全局 Claude Code 插件。

来源:GitHub · 灵魂体仓库 · github.com