跳到正文
GitHub · 灵魂体仓库·· 20 天前AI 评分36

YVEX(yailabs/yvex):带 Rust 算子外壳的原生模型编译器与有状态执行运行时

yailabs/yvex

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/yailabs/yvex

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

YVEX 是一个原生模型编译器与有状态执行运行时,使用 Rust 算子外壳,将经过认证的开源权重模型源码编译为已准入的执行工作。其 C 计算核心支持 CPU 和 CUDA 执行,并已集成早期 Apple Silicon Metal 后端,每条路径的资质验证单独记录。已演示的执行路径包括 DeepSeek V4 Flash 的投机生成、Qwen3.8-27B 的 CUDA 文本执行、Qwen3.5-0.8B 的 Mac CPU 生成及 Mamba-Codestral 的 64 层 CPU artifact 执行等,但各路径边界明确受限。

来源:GitHub · 灵魂体仓库 · github.com