跳到正文
GitHub · 灵魂体仓库·· 20 天前精选AI 评分67

mlx-node 开源:从 Node.js 运行 MLX 模型,支持推理与 GRPO/SFT 训练

mlx-node/mlx-node

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/mlx-node/mlx-node

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

mlx-node 项目开源,可在 Node.js 中运行 MLX 模型,公开 API 为 TypeScript,原生层用 Rust 和 C++,运行时无需 Python。支持语言和多模态推理、HTTP 服务器、模型转换及 GRPO/SFT 训练,主要面向 Apple Silicon Metal,另有在 NVIDIA GB10 / DGX Spark 上的实验性 CUDA 后端(仅推理)。CLI 需 Node.js 22.19+,macOS 二进制要求 macOS 26+。

推荐理由

在 Node.js 里跑 MLX 模型的完整工具链,推理、训练、多模态一站式覆盖,对 Apple Silicon 本地部署有直接参考价值。

来源:GitHub · 灵魂体仓库 · github.com