btbtyler09 开源 mi100-llm-testing 仓库，记录 MI100 在 vLLM 上的部署与性能实测

btbtyler09 发布 mi100-llm-testing 仓库，记录 4×AMD Instinct MI100（gfx908）在 vLLM 上的部署方法与性能数据，并提供预构建镜像 btbtyler09/vllm-rocm-gfx908。MI100 缺少 FP8/FP4 硬件且不兼容 Composable Kernel，仓库通过 AITER 的 Triton 内核与自定义补丁跑通推理，最新 v0.28 镜像上 Qwen3.8-Flash-Next（180B MoE，GPTQ-4bit）带 MTP 投机解码单用户达 166.9 tok/s，GSM8K 489/500；仓库还给出 100–290W 功耗曲线、UA 与 TRITON_ATTN 后端对比及各模型逐档测试报告。