热点事件观察中

研究提出用查询路由为数据中心提供电力灵活性

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Shivam Patel 等人在 arXiv 发布研究，提出用查询路由在多个语言模型实例间动态分配查询，使数据中心在不推迟用户请求的情况下提供电力需求灵活性，并给出估算可实现灵活性的分析框架。研究者在 1B 到 70B 参数的语言模型上、跨四个 GPU 平台验证该框架，估算电力灵活性的平均绝对百分比误差为 2.8%。在基于真实负载追踪的 10,000 块 H100 GPU 数据中心仿真中，灵活性最高达总功耗的 16%，约 10 秒内可实现 90% 的目标降功率。

AI 根据报道生成 · 12 小时前更新

最新进展11月4日 00:22

通过查询路由为数据中心创造电力需求灵活性

报道时间线

沿着报道，了解事件的不同侧面。

11月4日

00:22
arXiv · cs.AI
通过查询路由为数据中心创造电力需求灵活性
一项 arXiv 研究提出用查询路由在多个语言模型实例间动态分配查询，使数据中心在不推迟请求的情况下提供电力需求灵活性。研究者在 1B 到 70B 参数的语言模型上、跨四个 GPU 平台验证该分析框架，估计可实现的电力灵活性的平均绝对百分比误差为 2.8%。在 10,000 块 H100 GPU 数据中心的仿真中，灵活性达总功耗的 16%，约 10 秒内实现 90% 的目标降功率。

本事件热度走势

可比范围当前: 3
可比范围峰值: 511月5日 03:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。