GitHub · 去对齐工具与仓库·· 20 天前AI 评分51
chrisjohnson 开源 Strix Halo + R9700 eGPU 本地 LLM 构建目录与基准工具链
chrisjohnson/strix-halo-r9700-llm-builds
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/chrisjohnson/strix-halo-r9700-llm-builds
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
chrisjohnson 发布 strix-halo-r9700-llm-builds 仓库,收录 AMD Ryzen AI Max+ 395(Strix Halo,gfx1151)加 r9700 eGPU 扩展坞上跨双 GPU 并行运行 LLM 的模型引擎构建目录、modelctl 管理工具和 llm-inference-bench 基准编排器,支持 vLLM、llama.cpp 和 Ollama,用于编码助手场景及跨引擎/跨模型对比。目前含 67+ 个经核验的模型+引擎组合,每个构建是独立 Docker Compose 项目;CI 每次推送自动生成交互式对比面板(tokens/s 横向条形图,可按引擎、上下文长度、并发等过滤)发布到 GitHub Pages。
来源:GitHub · 去对齐工具与仓库 · github.com