跳到正文
Reddit · r/LocalLLaMA· /u/do_u_think_im_spooky·· 22 天前AI 评分47

Infermeld v0.1.0:基于 llama.cpp 让单个 GGUF 同时跑在 AMD + NVIDIA GPU 上的开源 Linux 工具包

Infermeld: a Linux kit for running one GGUF across AMD + NVIDIA GPUs with llama.cpp

来源与原文

Reddit · r/LocalLLaMA

作者:/u/do_u_think_im_spooky

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1wxyuxx/infermeld_a_linux_kit_for_running_one_gguf_across/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

开源工具包 Infermeld 发布实验性 v0.1.0 版本,基于 llama.cpp 让一个 GGUF 模型跨 AMD(Vulkan)与 NVIDIA(CUDA)GPU 混合运行,提供设备选择、预检、可复现构建和只读热保护。

来源:Reddit · r/LocalLLaMA · reddit.com