跳到正文
GitHub · 灵魂体仓库·· 8 天前AI 评分48

Llama Launcher:Windows 下的 llama.cpp 启动器

dail45/llm-launcher

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/dail45/llm-launcher

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Llama Launcher 是一款 Windows 平台的 llama.cpp 启动器,提供启动预设、VRAM/RAM 内存计算器、多版本构建管理、内置聊天和 benchmark,可从 Hugging Face 下载模型、从 GitHub 下载构建。其统一 OpenAI 兼容路由器支持模型自动加载与卸载,可通过局域网密码与 API 密钥访问,默认端口 8090 为管理界面、8080 为 OpenAI API 路由。项目采用 Tauri 2 桌面应用加 Svelte 5 UI 架构,并支持通过 GitHub Actions 或 Docker 交叉编译。

来源:GitHub · 灵魂体仓库 · github.com