GitHub · 去对齐工具与仓库·· 20 天前AI 评分71
Rust 推理引擎 lattice 开源：纯 Rust 实现 Qwen3.5/3.6 推理与 LoRA 训练
ohdearquant/lattice
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ohdearquant/lattice
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
ohdearquant 开源了 lattice，一个面向 Apple Silicon 的纯 Rust 推理引擎，无需 ONNX、Python 或 CUDA，支持 Qwen3.5-0.8B/2B、Qwen3.6-27B（原生 Q4）及 Qwen3.6-35B-A3B（MoE，仅加载器级）等生成模型和 9 个 embedding 模型，提供 Metal GPU 加速、Q8/Q4/QuaRot 量化、LoRA 训练与 OpenAI 兼容 API，并附带原生 macOS 应用 Lattice Studio。
来源：GitHub · 去对齐工具与仓库 · github.com