开发者发布浏览器LLM引擎webyIQ并开源
先了解这件事
Reddit 用户 /u/tixiren 发布了按模型定制的浏览器 LLM 推理引擎 webyIQ，以 Apache-2.0 协议开源。其称 Qwen3.5-2B 在 Chrome 156、RTX 5080 上达到 620 tok/s（无投机解码为 417 tok/s），比同模型的 WebLLM 快 6.6 倍；引擎还支持 MiniCPM5-2B，附带浏览器 Agent 演示和 Chrome/Edge 侧边栏扩展。 技术要点包括 Rust 编译为 wasm、手写 WGSL kernel、融合 int4×int8 GEMV/GEMM、全程驻留 GPU 的解码循环，并利用 Qwen3.5 内置 MTP 头做投机解码（输出与 greedy 一致）。权重为 1.1 GB，WikiText 困惑率较 bf16 增加 2.4%。 作者说明该引擎仍是原型，目前仅在 Windows 上测试过，Safari 和移动端未经测试。
AI 根据报道生成 · 8 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Reddit · r/LocalLLaMA精选作者发布浏览器 LLM 引擎 webyIQ，Qwen3.5-2B 在 Chrome 中达 620 tok/s
作者 /u/tixiren 发布了按模型定制的浏览器 LLM 引擎 webyIQ，Qwen3.5-2B 在 Chrome 156、RTX 5080 上达到 620 tok/s（无投机解码为 417），比同模型 WebLLM 快 6.6 倍。技术要点包括 Rust 编译为 wasm、手写 WGSL kernel、fused int4×int8 GEMV/GEMM、全程驻留 GPU 的解码循环，以及利用 Qwen3.5 内置 MTP 头的投机解码（输出与 greedy 一致）；权重为 1.1 GB、WikiText 困惑率较 bf16 增加 2.4%。项目附带浏览器 Agent 演示和 Chrome/Edge 侧边栏扩展，代码以 Apache-2.0 开源，目前仅在 Windows 上测试过。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。