GitHub · 去对齐工具与仓库·· 20 天前AI 评分44
SemiAnalysisAI 开源 InferenceX:LLM 推理性能基准可视化仪表盘
SemiAnalysisAI/InferenceX-app
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/SemiAnalysisAI/InferenceX-app
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
SemiAnalysisAI 在 GitHub 开源 InferenceX-app,一个基于 Next.js 16 的 LLM 推理性能基准可视化仪表盘。该项目每晚在主流硬件平台上用最新软件对热门模型进行基准测试,扫描不同 tensor parallel 尺寸与最大并发请求数,生成吞吐量-延迟曲线,并开源仓库欢迎社区贡献。技术栈包括 TypeScript、Tailwind CSS 4、D3.js、Neon PostgreSQL 与 Vercel,部署于 Vercel。
来源:GitHub · 去对齐工具与仓库 · github.com