跳到正文
更多
热点事件观察中

Tabmark 开源:浏览器内用 WebGPU 实测设备 LLM 速度

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Tabmark 是一个开源(MIT 许可)的众包基准工具,在浏览器标签页内测试设备运行小型语言模型的速度:模型下载到本地,经 WebGPU 在设备 GPU 上运行,无服务器、无账号,结果汇入公开表格供比较不同设备。 工具支持 WebLLM 和 wllama(llama.cpp)两个引擎、16/8/4 位 KV cache 三种内存格式,可选 Qwen3 0.6B(默认)、Llama 3.2 1B、Qwen3 1.7B、Qwen3 4B、SmolLM2 360M 五个模型,上下文可加载到 4k 至 32k tokens 并报告最大可装载值。其中 Qwen3 4B 仅能在 WebLLM 下运行,因其 llama.cpp 文件超过 wllama 的 2 GB 单文件上限。测试统一采用约 500 tokens 提示词、生成 128 tokens,并先做一次预热请求以排除 GPU shader 编译影响。

AI 根据报道生成 · 23 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. GitHub · 灵魂体仓库精选
    Tabmark 开源:在浏览器里用 WebGPU 实测各设备运行小型语言模型的速度

    Tabmark 是一个在浏览器标签页内测 LLM 速度的众包基准工具,模型下载到本地经 WebGPU 在设备 GPU 上运行,无服务器、无账号。支持 WebLLM 和 wllama(llama.cpp)两个引擎、16/8/4 位 KV cache 三种内存格式,可选 Qwen3 0.6B(默认)、Llama 3.2 1B、Qwen3 1.7B、Qwen3 4B、SmolLM2 360M 五个模型,上下文可加载到 4k 至 32k tokens 并报告最大可装载值。测试统一约 500 tokens 提示词、生成 128 tokens,并先做一次预热请求以排除 GPU shader 编译影响。

本事件热度走势

可比范围当前
4
可比范围峰值
810月31日 06:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。