跳到正文
GitHub · 去对齐工具与仓库·· 9 天前精选AI 评分55

doppler:基于 WebGPU 的本地模型执行 JavaScript 库

clocksmith/doppler

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/clocksmith/doppler

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

clocksmith 发布 doppler,一个通过 WebGPU 在本地执行模型的 JavaScript 库,支持生成、嵌入向量、重排序和选择打分,并按模型和主机分别验证。提供 npx --package doppler-gpu@0.6.1 的 quickstart(模型 gemma3-270m),浏览器与 Node 支持分开验证;模型目录涵盖文本与多模态生成、扩散语言模型、翻译、嵌入、重排序、蛋白质与核苷酸编码器,对比记分板将吞吐与加载分开报告,W8A8 仍为实验性,选择分数未校准,许可证为 MIT。

推荐理由

原文给出 quickstart 命令、支持矩阵与按模型和主机限定的验证方式,读者可据此评估在浏览器或 Node 里跑本地模型的可行性。

来源:GitHub · 去对齐工具与仓库 · github.com