cactus-needle 发布：在浏览器和 Node.js 本地运行 Needle 3 做工具调用与嵌入

afshinm 发布 cactus-needle，一个独立封装库，可在浏览器或 Node.js 本地运行 Cactus Compute 的 Needle 3，用于工具调用、结构化抽取和文本嵌入。模型体积 35.3 MB 单独下载，在 WebAssembly worker 的 CPU 上推理，无需 API key、服务器或 GPU；首次加载从 Hugging Face 下载模型并缓存。支持作为 Vercel AI SDK 6 和 7 的 provider 使用，嵌入维度为 3072。限制包括不支持自由聊天、音频和图像，不支持回传工具结果的 Agent 循环，流式输出为缓冲返回。采用 Apache-2.0 许可证。