GitHub · 去对齐工具与仓库·· 3 小时前AI 评分39
Nativa:面向本地 LLM 推理的开源编程语言与运行时
Benevalterjr/nativa
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Benevalterjr/nativa
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开源项目 Nativa 是一门面向高效 AI 推理的领域专用语言及高性能运行时,已可端到端运行 Qwen2.5-0.5B(24 层、490M 参数)。它支持 BitNet b1.58 三值计算、自研 .natq4 INT4 量化格式(4.50 bits/weight)、mmap 零拷贝加载 SafeTensors,并可 AOT 编译为 C99 + OpenMP 原生代码,还提供 OpenAI 兼容的 REST API 服务器。项目目前由单人维护,采用 MIT 许可,正在征集内核、量化、语言前端与文档方面的贡献者。
来源:GitHub · 去对齐工具与仓库 · github.com