GitHub · 去对齐工具与仓库·· 21 天前AI 评分63
AX Engine:面向 Apple Silicon 的本地推理运行时
defai-digital/ax-engine
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/defai-digital/ax-engine
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
defai-digital 开源的 AX Engine 是面向 Apple Silicon 的本地推理运行时,首发优化目标是 Qwen 3.8 27B AXQ MXFP4 MTP 包,可通过 Homebrew 或 pip 安装并提供 OpenAI 兼容端点。README 附带对齐的证据体系:在 Mac mini M4 Pro 64 GB 上产品路径 MTP 解码 31.05 tok/s,M5 Max 128 GB 上 76.9 tok/s 解码、795.3 tok/s 预填充,并给出带宽利用率归因;8 小时 endurance 测试中 437/437 请求成功,作者明确说明这只是短时证据,72 小时认证仍未完成。
来源:GitHub · 去对齐工具与仓库 · github.com