跳到正文
我的
热点事件持续更新

昇腾910B2推理基础设施实验仓库发布

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

holtwood 发布 GitHub 仓库 ascend-llm-infra-lab，在 4× 华为昇腾 910B2（64GB HBM）单卡容器上开展 LLM 推理基础设施实验，目标是围绕推理服务化、量化、调度特性与系统扩展性建立可量化、可复现的实验体系。 仓库部署三个 vLLM 副本，分别承担源码实验、量化/MindIE 等方向；压测客户端使用 locust/vllm-bench，并通过负载均衡分发请求。

AI 根据报道生成 · 3 小时前更新

最新进展11月6日 12:26
华为昇腾 910B2 上的 LLM 推理基础设施实验：holtwood/ascend-llm-infra-lab

报道时间线

沿着报道，了解事件的不同侧面。

11月6日
  1. GitHub · 去对齐工具与仓库
    华为昇腾 910B2 上的 LLM 推理基础设施实验：holtwood/ascend-llm-infra-lab

    GitHub 仓库 holtwood/ascend-llm-infra-lab 在 4× 华为昇腾 910B2（64GB HBM）单卡容器上开展 LLM 推理基础设施实验，围绕推理服务化、量化、调度特性与系统扩展性建立可量化、可复现的实验体系。实验部署三个 vLLM 副本分别承担源码实验、量化/MindIE 等方向，压测客户端使用 locust/vllm-bench 并通过负载均衡分发请求。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月6日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。