GitHub · 去对齐工具与仓库·· 9 天前精选AI 评分55
doppler:基于 WebGPU 的本地模型执行 JavaScript 库
clocksmith/doppler
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/clocksmith/doppler
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
clocksmith 发布 doppler,一个通过 WebGPU 在本地执行模型的 JavaScript 库,支持生成、嵌入向量、重排序和选择打分,并按模型和主机分别验证。提供 npx --package doppler-gpu@0.6.1 的 quickstart(模型 gemma3-270m),浏览器与 Node 支持分开验证;模型目录涵盖文本与多模态生成、扩散语言模型、翻译、嵌入、重排序、蛋白质与核苷酸编码器,对比记分板将吞吐与加载分开报告,W8A8 仍为实验性,选择分数未校准,许可证为 MIT。
推荐理由
原文给出 quickstart 命令、支持矩阵与按模型和主机限定的验证方式,读者可据此评估在浏览器或 Node 里跑本地模型的可行性。
来源:GitHub · 去对齐工具与仓库 · github.com