热点事件观察中

开源 llm-d-simul 模拟器：部署前对比 llm-d 路由与基础负载均衡

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

llm-d 在 GitHub 开源了工作负载交互模拟器 llm-d-simul，让开发者在实际部署前对比基础负载均衡与 llm-d 路由的性能表现。性能估算基于 BLIS，支持 Llama 3.1 8B Instruct、Qwen 2.5 7B Instruct、Qwen3 14B 搭配 NVIDIA A100 80GB、H100、H200 共九种组合，可选 chat、摘要、代码生成、多轮 Agent 四类工作负载，并支持 prefill/decode 分池、InfiniBand 400 Gb/s 等网络设置。本地运行需 Node.js 22.12+、npm、Python 3.9+ 和 Git，无需 GPU 或下载模型权重。

AI 根据报道生成 · 2 天前更新

最新进展10月25日 19:22

llm-d 工作负载模拟器 llm-d-simul 开源上线：部署前对比 llm-d 路由与基础负载均衡

报道时间线

沿着报道，了解事件的不同侧面。

10月25日

19:22
GitHub · 灵魂体仓库
llm-d 工作负载模拟器 llm-d-simul 开源上线：部署前对比 llm-d 路由与基础负载均衡
GitHub 开源了 llm-d 工作负载交互模拟器 llm-d-simul，让开发者在部署前对比基础负载均衡与 llm-d 路由的性能。性能估算来自 BLIS，支持 Llama 3.1 8B Instruct、Qwen 2.5 7B Instruct、Qwen3 14B 搭配 NVIDIA A100 80GB/H100/H200 共九种组合，可选 chat、摘要、代码生成、多轮 Agent 四类工作负载。本地运行需 Node.js 22.12+、Python 3.9+，支持 prefill/decode 分池、InfiniBand 400 Gb/s 等网络设置，无需 GPU 或下载模型权重。

本事件热度走势

可比范围当前: 3
可比范围峰值: 1010月25日 20:00
近 24 小时变化: -50%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。