GitHub · 去对齐工具与仓库·· 19 天前AI 评分24
ANITE 开源基础语言模型:90/10 双流混合架构面向单 GPU / 边缘部署
Elliot-Elikplim/ANITE
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Elliot-Elikplim/ANITE
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 ANITE 发布了一个主打 FLOP 效率与低延迟单 GPU/边缘部署的主权基础语言模型,采用 90% AVS(Mamba-2 并行扫描,10,317.5 tok/s)加 10% HCA 线性注意力的双流架构。其 ADF 模块相比 MoE 吞吐快 1.56×(80,078 tok/s),VRAM 占用比 Latent MoE 少 15×(1,307 MB),MQAR 关联记忆达 18.8%。项目采用 Apache 2.0 许可,提供 125M/500M 配置、Hugging Face 集成及评测工具。
来源:GitHub · 去对齐工具与仓库 · github.com