Reddit · r/LocalLLaMA· /u/do_u_think_im_spooky·· 22 天前AI 评分47
Infermeld v0.1.0:基于 llama.cpp 让单个 GGUF 同时跑在 AMD + NVIDIA GPU 上的开源 Linux 工具包
Infermeld: a Linux kit for running one GGUF across AMD + NVIDIA GPUs with llama.cpp
来源与原文
Reddit · r/LocalLLaMA
作者:/u/do_u_think_im_spooky
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wxyuxx/infermeld_a_linux_kit_for_running_one_gguf_across/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开源工具包 Infermeld 发布实验性 v0.1.0 版本,基于 llama.cpp 让一个 GGUF 模型跨 AMD(Vulkan)与 NVIDIA(CUDA)GPU 混合运行,提供设备选择、预检、可复现构建和只读热保护。
来源:Reddit · r/LocalLLaMA · reddit.com