GitHub · 去对齐工具与仓库·· 20 天前AI 评分50
Mootikins 发布 llama-swappo-halo 容器镜像:在 AMD Strix Halo 上运行 llama-swappo 代理
Mootikins/llama-swappo-halo
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Mootikins/llama-swappo-halo
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Mootikins 在 GitHub 开源 llama-swappo-halo 容器镜像,用于在 AMD Strix Halo(gfx1151)上运行支持 Ollama API 的 llama-swappo LLM 代理,基于 kyuz0/amd-strix-halo-toolboxes 的 llama.cpp 预编译版本。镜像提供 ROCm/HIP 与 Vulkan 两种后端,其中 Vulkan 在 gfx1151 上稳定性更好,ROCm 性能更高且可选 whisper.cpp 语音转文字支持,镜像以 MIT 许可发布。
来源:GitHub · 去对齐工具与仓库 · github.com