跳到正文
GitHub · 灵魂体仓库·· 5 天前精选AI 评分66

comfyui-llamacpp 发布面向 ComfyUI 的 llama-server 本地集成套件

Setmaster/comfyui-llamacpp

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Setmaster/comfyui-llamacpp

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Setmaster 发布 comfyui-llamacpp,为 ComfyUI 提供本地 llama-server 集成,支持文本与视觉提示、结构化输出、直接与路由模式,并显式管理 LLM 进程的 VRAM 释放。已发布的 Registry 包为 0.3.0 含 17 个节点,master 分支的 0.4 源码版本含 25 个节点,新增 llama.cpp Generate 节点、任务配置档案、自动 projector 匹配和最多 10 秒英语音频转写;安装可用 comfy node install comfyui-llamacpp,项目采用 MIT 许可证。

推荐理由

README 明确区分了 Registry 已发布的 0.3.0 与源码 0.4 版本及节点数差异,还给出进程树所有权与 VRAM 释放契约,可据此评估部署方案。

来源:GitHub · 灵魂体仓库 · github.com