GitHub · 3D 生成新仓库·· 2 天前AI 评分38
Magnetar:面向可移植本地 AI 执行的 Rust 运行时发布 v0.1 基线
astorise/Magnetar
来源与原文
GitHub · 3D 生成新仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/astorise/Magnetar
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
新开源仓库 Magnetar 发布 v0.1 本地运行时基线,这是一个用 Rust 编写的可移植本地 AI 执行运行时,包含 magnetar-runtime 和 magnetar-cli 两个 crate。其外部 CUDA Provider 已在真实硬件上通过端到端验证,并支持加载生产级 Qwen 模型工件,实测通过公开下载的 Qwen2.5-0.5B-Instruct checkpoint 在 Reference CPU 与真实 CUDA 硬件上运行。项目另提供 WGPU、ROCm、Metal、NPU、TPU 等外部 Provider 基线,部分仅实现设备发现且尚未在对应硬件上验证,官方说明其还不是通用生产模型运行时。
来源:GitHub · 3D 生成新仓库 · github.com