quipullm 开源：纯 Python 后端加 WebGPU 浏览器内推理引擎，兼容 OpenAI API

dagoalguez 发布 quipullm 4.2.x 早期版本，一个自托管 LLM 服务器，推理引擎用 WebGPU（WGSL + JavaScript）从头编写并运行在浏览器窗口内，后端为纯 Python 标准库，无需 pip、npm、二进制或 Docker。它读取标准 GGUF 文件，提供 OpenAI 兼容 API 和聊天页面，每个架构与 llama.cpp 逐数值比对验证（logit 相对误差低于 2e-3）。实测 Intel UHD 核显上 LFM2 350M 为 44.3 tok/s、Gemma 3 4B 为 5.3 tok/s；AMD、Apple 等硬件未测，无 TLS，且一次只服务一个请求。