跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分51

chrisjohnson 开源 Strix Halo + R9700 eGPU 本地 LLM 构建目录与基准工具链

chrisjohnson/strix-halo-r9700-llm-builds

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/chrisjohnson/strix-halo-r9700-llm-builds

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

chrisjohnson 发布 strix-halo-r9700-llm-builds 仓库,收录 AMD Ryzen AI Max+ 395(Strix Halo,gfx1151)加 r9700 eGPU 扩展坞上跨双 GPU 并行运行 LLM 的模型引擎构建目录、modelctl 管理工具和 llm-inference-bench 基准编排器,支持 vLLM、llama.cpp 和 Ollama,用于编码助手场景及跨引擎/跨模型对比。目前含 67+ 个经核验的模型+引擎组合,每个构建是独立 Docker Compose 项目;CI 每次推送自动生成交互式对比面板(tokens/s 横向条形图,可按引擎、上下文长度、并发等过滤)发布到 GitHub Pages。

来源:GitHub · 去对齐工具与仓库 · github.com