1CatAI 开源 1Cat-vLLM-Gaudi：面向 Intel Gaudi2 的大模型推理优化分支

1CatAI 在 GitHub 发布 1Cat-vLLM-Gaudi，一个维护的 vLLM-Gaudi 硬件插件工程分支，重点优化 Gaudi2 上的 Qwen、DeepSeek、MiniMax 模型推理，覆盖 TPC/MME 算子、Graph + Compile、Native Replay、TP2 与 TP2 × PP2 多卡执行。README 给出 Qwen3.8-27B-FP8 对照记录：输入 2,048 tokens 时 Gaudi2 单请求首字 0.4036 s、Decode 57.17 tokens/s，较 A800 单卡首字缩短 47.8%、Decode 提升 17.5%；32 并发时 Decode 总吞吐 958.44 tokens/s，仍比 A800 低 3.3%。