跳到正文
GitHub · 去对齐工具与仓库·· 3 小时前AI 评分39

Nativa:面向本地 LLM 推理的开源编程语言与运行时

Benevalterjr/nativa

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Benevalterjr/nativa

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

开源项目 Nativa 是一门面向高效 AI 推理的领域专用语言及高性能运行时,已可端到端运行 Qwen2.5-0.5B(24 层、490M 参数)。它支持 BitNet b1.58 三值计算、自研 .natq4 INT4 量化格式(4.50 bits/weight)、mmap 零拷贝加载 SafeTensors,并可 AOT 编译为 C99 + OpenMP 原生代码,还提供 OpenAI 兼容的 REST API 服务器。项目目前由单人维护,采用 MIT 许可,正在征集内核、量化、语言前端与文档方面的贡献者。

来源:GitHub · 去对齐工具与仓库 · github.com