GitHub · 去对齐工具与仓库·· 19 天前AI 评分8
InferSim：轻松模拟 LLM 推理性能的开源仿真工具
roshini0108/InferSim
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/roshini0108/InferSim
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
InferSim 是一款轻量级模拟器，帮助用户理解大语言模型在推理阶段的性能表现。它支持选择模型类型、调整 batch size 等设置并运行仿真，输出可保存的性能指标，面向非技术用户设计。软件要求 4 GB 内存和 100 MB 磁盘空间，仅限个人与教育用途，最新版本可在其 GitHub Releases 页面下载。
来源：GitHub · 去对齐工具与仓库 · github.com