研究提出面向LLM解码的静态光路交换并用模拟器评估
热点事件观察中
研究提出面向LLM解码的静态光路交换并用模拟器评估
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Maximilian Thürmer 在 arXiv 论文(arXiv:2611.05104)中提出 workload-static 光路交换(OCS)方案:利用 LLM 解码阶段通信结构固定的特点,按部署一次性配置光路,并与模型并行及拓扑感知集合通信调度协同设计。 该方案基于 GXNET 模拟器评估,尚非实测部署。论文称,在 576 加速器规模、服务 5T 参数 MoE 模型(上下文最长 5M tokens)的场景下,全 OCS 组网相比 4:1 超额订阅的电分组交换,交互性最高提升 65%,能效最高提升 119%。
AI 根据报道生成 · 11 小时前更新
最新进展11月4日 00:00
面向可扩展 LLM 推理 decode 的负载静态光路交换研究报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- arXiv · cs.AI面向可扩展 LLM 推理 decode 的负载静态光路交换研究
arXiv 论文提出 workload-static 光路交换(OCS):利用 decode 通信结构固定的特点,按部署一次性配置电路,并与模型并行及拓扑感知集合通信调度协同设计。基于 GXNET 模拟器评估,在 576 加速器规模、服务 5T 参数 MoE 模型(最长 5M tokens 上下文)时,全 OCS 组网相比 4:1 超额订阅的电分组交换将交互性提升最高 65%,能效提升最高 119%。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 511月5日 03:00
- 近 24 小时变化
- –
0246
04:0006:0008:0010:0012:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。