跳到正文
GitHub · 3D 生成新仓库·· 2 天前AI 评分38

Magnetar:面向可移植本地 AI 执行的 Rust 运行时发布 v0.1 基线

astorise/Magnetar

来源与原文

GitHub · 3D 生成新仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/astorise/Magnetar

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

新开源仓库 Magnetar 发布 v0.1 本地运行时基线,这是一个用 Rust 编写的可移植本地 AI 执行运行时,包含 magnetar-runtime 和 magnetar-cli 两个 crate。其外部 CUDA Provider 已在真实硬件上通过端到端验证,并支持加载生产级 Qwen 模型工件,实测通过公开下载的 Qwen2.5-0.5B-Instruct checkpoint 在 Reference CPU 与真实 CUDA 硬件上运行。项目另提供 WGPU、ROCm、Metal、NPU、TPU 等外部 Provider 基线,部分仅实现设备发现且尚未在对应硬件上验证,官方说明其还不是通用生产模型运行时。

来源:GitHub · 3D 生成新仓库 · github.com