AMD LLM Lab 开源：AMD GPU 上的 LLM 推理内存与性能预估平台

VedantJadhav701 开源了 AMD LLM Lab，一个面向 AMD Instinct MI300X 和 Radeon GPU 的 LLM 推理优化研究平台，含模型推荐器、显存适配计算器、社区基准榜单和本地硬件探测。其显存计算覆盖 BF16 到 INT2 精度并计入 KV cache 与运行时开销，附带 57 条以上 MI300X（192 GB HBM3）实测数据，明确区分 MEASURED 与 ML 回归的 ESTIMATED 值，并提供 rocm_bench.py CLI 供用户提交实测结果。项目采用 FastAPI 后端加 Next.js 前端，MIT 许可，非 AMD 官方产品。