metallix：基于 Rust 和 Metal 的 Apple Silicon LLM 推理引擎开源

arclabs561 在 GitHub 开源了 metallix，一个围绕 Rust 和 Metal 构建的 Apple Silicon LLM 推理引擎。mx serve 通过 HTTP API 提供模型服务，每个模型运行在独立子进程中，支持按 --memory-budget-mib 停用闲置模型；当前支持 Qwen3-0.6B、Qwen3-4B-Instruct-2507 生成、嵌入、重排序和打分端点。DeepSeek-V4.1-Flash 是主要目标但尚不能生成，仅有一个极慢的 CPU 参考路径（17 token 提示约 32 分钟）。项目 MIT 协议开源，认证和 TLS 设计上不在范围内。