跳到正文
GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分59

Cactus Compute 发布端侧基础模型 Needle 3,权重开放在 Hugging Face

cactus-compute/needle

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/cactus-compute/needle

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Cactus Compute 发布面向手机、可穿戴、机器人、智能家居和微控制器的端侧基础模型 Needle 3,整个模型是单个 8-29 MB 二进制文件,权重和各平台引擎已在 Hugging Face 开放。模型基于 Laddered Simple Attention Network,2 到 20 层每档深度都是可部署模型,在移动端工具调用上以牺牲通用对话能力换取超过 10 倍体积模型的表现,并支持结构化抽取、文本嵌入和同容器的语音转写模型 Whistle(16.9 MB,支持 7 种语言)。提供 needle finetune 本地 LoRA 微调与平台微调两种方式,DroidCall 微调使 4 层以上的子网络在 29M 参数起通过 DeepSeek V4 Flash。

推荐理由

Cactus 官方开源了面向微型设备的 Needle 3,并给出与 Whisper、DeepSeek 等模型的基准对比和完整微调部署路径,适合本地部署场景参考。

来源:GitHub · 去对齐工具与仓库 · github.com