GitHub · 灵魂体仓库·· 21 天前AI 评分13
srirsatt/CUDAinference：CUDA C++ 大语言模型推理学习仓库
srirsatt/CUDAinference
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/srirsatt/CUDAinference
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 仓库 srirsatt/CUDAinference 是一个专注于 CUDA C++ 大语言模型推理的学习日志项目，使用三块 GPU：NVIDIA t1000（8GB VRAM）、NVIDIA a5000（24GB VRAM）和 NVIDIA H100（80GB HBM3 VRAM）。目前仓库尚无 stars、watchers 和 forks。
来源：GitHub · 灵魂体仓库 · github.com