GitHub · 去对齐工具与仓库·2026-10-06 11:14· 21 天前AI 评分22

NVIDIA TensorRT-LLM：面向大语言模型与视觉生成模型的开源推理优化库

NVIDIA/TensorRT-LLM

来源与原文

GitHub · 去对齐工具与仓库

发布时间：2026-10-06 11:14（北京时间）

完整链接与内容说明

https://github.com/NVIDIA/TensorRT-LLM

本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。

AI 导读

TensorRT-LLM 通过专用 kernel、高效运行时和 Python 框架优化 LLM 与视觉生成模型的推理，现已完全开源并迁移至 GitHub。