跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分44

SemiAnalysisAI 开源 InferenceX:LLM 推理性能基准可视化仪表盘

SemiAnalysisAI/InferenceX-app

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/SemiAnalysisAI/InferenceX-app

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

SemiAnalysisAI 在 GitHub 开源 InferenceX-app,一个基于 Next.js 16 的 LLM 推理性能基准可视化仪表盘。该项目每晚在主流硬件平台上用最新软件对热门模型进行基准测试,扫描不同 tensor parallel 尺寸与最大并发请求数,生成吞吐量-延迟曲线,并开源仓库欢迎社区贡献。技术栈包括 TypeScript、Tailwind CSS 4、D3.js、Neon PostgreSQL 与 Vercel,部署于 Vercel。

来源:GitHub · 去对齐工具与仓库 · github.com