跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分50

Mootikins 发布 llama-swappo-halo 容器镜像:在 AMD Strix Halo 上运行 llama-swappo 代理

Mootikins/llama-swappo-halo

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Mootikins/llama-swappo-halo

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Mootikins 在 GitHub 开源 llama-swappo-halo 容器镜像,用于在 AMD Strix Halo(gfx1151)上运行支持 Ollama API 的 llama-swappo LLM 代理,基于 kyuz0/amd-strix-halo-toolboxes 的 llama.cpp 预编译版本。镜像提供 ROCm/HIP 与 Vulkan 两种后端,其中 Vulkan 在 gfx1151 上稳定性更好,ROCm 性能更高且可选 whisper.cpp 语音转文字支持,镜像以 MIT 许可发布。

来源:GitHub · 去对齐工具与仓库 · github.com