跳到正文
我的
热点事件持续更新

PoCGPU 发布 GPU 推理成本计算框架

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

josejavish1/PoCGPU 发布面向通用 AI 基础设施经济性计算的治理型基础框架,包含严格领域契约、不可变场景、确定性快照和版本化 schema。其计算器 A/B 覆盖硅尺寸与全负载 TCO、$/1M tokens 费率卡及云 API 盈亏平衡。 在 GKE Zurich 的云 PoC 使用 4x NVIDIA L4、vLLM TP=2 + Multi-LoRA,已认证 Track A/B/C/D-Step 1,活跃-活跃吞吐达 689 tok/s;D-Step 2 故障切换尚未完成。该框架的领域覆盖门槛要求语句和分支覆盖率均达 100%。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月8日
  1. GitHub · 去对齐工具与仓库
    PoCGPU:面向通用 AI 基础设施经济性计算的治理型基础框架

    PoCGPU 建立通用 AI 基础设施经济性计算的治理型基础框架,含严格领域契约、不可变场景、确定性快照和版本化 schema。云 PoC 在 GKE Zurich 用 4x NVIDIA L4、vLLM TP=2 + Multi-LoRA,已认证 Track A/B/C/D-Step 1,活跃-活跃达 689 tok/s,D-Step 2 故障切换待完成。计算器 A/B 覆盖硅尺寸与全负载 TCO、$/1M tokens 费率卡及云 API 盈亏平衡。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。