跳到正文
热点事件观察中

phase 开源工具发布：实测本地大模型每 token 能耗

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

GitHub 项目 phase 发布，可在本机直接测量本地大模型推理的每 token 能耗，区分 prefill 与 decode 两个阶段，并分别报告 SoC 芯片功耗与整板 DC 输入功耗，扣除空闲基线，三个平台后端均无需 sudo。项目以 Apache-2.0 许可开源，原始数据 JSON 存于 results/ 目录，并附 18 篇研究笔记，涵盖量化格式能耗、投机解码、批处理与长上下文等发现。 首组数据在 Apple M5 Pro 24 GB（macOS 接电源、llama.cpp build 11669）上测得：decode 阶段每 token 能耗是 prefill 的 20 到 35 倍；若只计芯片封装功耗，会低估真实能耗成本 2 倍以上。

AI 根据报道生成 · 2 天前更新

最新进展10月25日 16:21
phase 开源工具实测本地大模型每 token 能耗，拆分 prefill 与 decode

报道时间线

沿着报道，了解事件的不同侧面。

10月25日
  1. GitHub · 灵魂体仓库精选
    phase 开源工具实测本地大模型每 token 能耗，拆分 prefill 与 decode

    GitHub 项目 phase 发布，可在本机直接测量本地 LLM 推理的每 token 能耗，分别报告 SoC 芯片功耗与 sys 整板 DC 输入，并扣除空闲基线，三平台后端均无需 sudo。首组数据在 Apple M5 Pro 24 GB 上测得：decode 每 token 能耗是 prefill 的 20 到 35 倍，仅计芯片封装会低估真实成本 2 倍以上。项目附 18 篇研究笔记，涵盖量化格式能耗、投机解码、批处理与长上下文等发现，Apache-2.0 许可，原始 JSON 在 results/ 目录。

本事件热度走势

可比范围当前
3
可比范围峰值
1010月25日 17:00
近 24 小时变化
-50%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。