跳到正文
我的
热点事件观察中

研究提出面向LLM解码的静态光路交换并用模拟器评估

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Maximilian Thürmer 在 arXiv 论文(arXiv:2611.05104)中提出 workload-static 光路交换(OCS)方案:利用 LLM 解码阶段通信结构固定的特点,按部署一次性配置光路,并与模型并行及拓扑感知集合通信调度协同设计。 该方案基于 GXNET 模拟器评估,尚非实测部署。论文称,在 576 加速器规模、服务 5T 参数 MoE 模型(上下文最长 5M tokens)的场景下,全 OCS 组网相比 4:1 超额订阅的电分组交换,交互性最高提升 65%,能效最高提升 119%。

AI 根据报道生成 · 11 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv · cs.AI
    面向可扩展 LLM 推理 decode 的负载静态光路交换研究

    arXiv 论文提出 workload-static 光路交换(OCS):利用 decode 通信结构固定的特点,按部署一次性配置电路,并与模型并行及拓扑感知集合通信调度协同设计。基于 GXNET 模拟器评估,在 576 加速器规模、服务 5T 参数 MoE 模型(最长 5M tokens 上下文)时,全 OCS 组网相比 4:1 超额订阅的电分组交换将交互性提升最高 65%,能效提升最高 119%。

本事件热度走势

可比范围当前
3
可比范围峰值
511月5日 03:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。