开源推理语言Nativa可端到端运行Qwen2.5-0.5B
热点事件持续更新
开源推理语言Nativa可端到端运行Qwen2.5-0.5B
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开发者 Benevalterjr 在 GitHub 发布开源项目 Nativa，这是一门面向本地 LLM 推理的领域专用语言及高性能运行时，目前已可端到端运行 Qwen2.5-0.5B（24 层、490M 参数）。 技术上，Nativa 支持 BitNet b1.58 三值计算和自研 .natq4 INT4 量化格式（4.50 bits/weight），可经 mmap 零拷贝加载 SafeTensors，并 AOT 编译为 C99 + OpenMP 原生代码，另提供 OpenAI 兼容的 REST API 服务器。项目采用 MIT 许可，目前由单人维护，正在征集内核、量化、语言前端与文档方面的贡献者。
AI 根据报道生成 · 2 小时前更新
最新进展10月29日 04:42
Nativa：面向本地 LLM 推理的开源编程语言与运行时报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- GitHub · 去对齐工具与仓库Nativa：面向本地 LLM 推理的开源编程语言与运行时
开源项目 Nativa 是一门面向高效 AI 推理的领域专用语言及高性能运行时，已可端到端运行 Qwen2.5-0.5B（24 层、490M 参数）。它支持 BitNet b1.58 三值计算、自研 .natq4 INT4 量化格式（4.50 bits/weight）、mmap 零拷贝加载 SafeTensors，并可 AOT 编译为 C99 + OpenMP 原生代码，还提供 OpenAI 兼容的 REST API 服务器。项目目前由单人维护，采用 MIT 许可，正在征集内核、量化、语言前端与文档方面的贡献者。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。