Tabmark 开源:浏览器内用 WebGPU 实测设备 LLM 速度
先了解这件事
Tabmark 是一个开源(MIT 许可)的众包基准工具,在浏览器标签页内测试设备运行小型语言模型的速度:模型下载到本地,经 WebGPU 在设备 GPU 上运行,无服务器、无账号,结果汇入公开表格供比较不同设备。 工具支持 WebLLM 和 wllama(llama.cpp)两个引擎、16/8/4 位 KV cache 三种内存格式,可选 Qwen3 0.6B(默认)、Llama 3.2 1B、Qwen3 1.7B、Qwen3 4B、SmolLM2 360M 五个模型,上下文可加载到 4k 至 32k tokens 并报告最大可装载值。其中 Qwen3 4B 仅能在 WebLLM 下运行,因其 llama.cpp 文件超过 wllama 的 2 GB 单文件上限。测试统一采用约 500 tokens 提示词、生成 128 tokens,并先做一次预热请求以排除 GPU shader 编译影响。
AI 根据报道生成 · 23 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- GitHub · 灵魂体仓库精选Tabmark 开源:在浏览器里用 WebGPU 实测各设备运行小型语言模型的速度
Tabmark 是一个在浏览器标签页内测 LLM 速度的众包基准工具,模型下载到本地经 WebGPU 在设备 GPU 上运行,无服务器、无账号。支持 WebLLM 和 wllama(llama.cpp)两个引擎、16/8/4 位 KV cache 三种内存格式,可选 Qwen3 0.6B(默认)、Llama 3.2 1B、Qwen3 1.7B、Qwen3 4B、SmolLM2 360M 五个模型,上下文可加载到 4k 至 32k tokens 并报告最大可装载值。测试统一约 500 tokens 提示词、生成 128 tokens,并先做一次预热请求以排除 GPU shader 编译影响。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 810月31日 06:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。