Reddit · r/LocalLLaMA· /u/deepu105·· 3 小时前AI 评分57
LlamaStash v0.10 发布，已适配 llama.cpp、vLLM、SGLang 等 20 多种推理引擎
LlamaStash now supports most inference engines (20+ tested: llama.cpp, vLLM, SGLang, Strata, Halogen, gufo, sd.cpp, ComfyUI, Kokoro, Kev etc)
来源与原文
Reddit · r/LocalLLaMA
作者：/u/deepu105
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xgxdwi/llamastash_now_supports_most_inference_engines_20/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者 /u/deepu105 发布 LlamaStash v0.10，一个通过 YAML 配置统一管理多种推理引擎的终端/网页 UI、CLI 与安全代理工具，已实测 llama.cpp、vLLM、SGLang、Halogen、gufo、sd.cpp、ComfyUI、Kokoro 等 20 多种引擎。工具提供模型预设、别名、回退与多路上下文并行（如在 1M ctx 池上同时跑 4x256k 或 16x64k 会话）、请求日志与指标，以及检测硬件并自动配置的 llamastash init 向导；聊天、图像、STT/TTS 都经由同一个代理端口。作者自述主要用例是在 128GB Strix Halo 上跑 Qwen3.8-Flash-Next 编码与图像生成。
来源：Reddit · r/LocalLLaMA · reddit.com