Syntropy：把多台设备的 GPU、内存与存储当作一台机器运行大模型的开源项目

Syntropy 是一个 Rust 编写的开源项目，旨在把多台机器的 GPU、RAM 和 NVMe 当作一台计算机，分层放置 235B 参数的 MoE 模型（4-bit 下 142 GB），并让计算尽量贴近数据。设计包含 25 个 RFC、98 个 ADR 和 1,411 个任务，当前处于 M0a 里程碑实现阶段，尚无可安装版本；计划支持 OpenAI 与 Anthropic 兼容 API，以及 CUDA、HIP、Metal、Vulkan 原生内核。