GitHub · 去对齐工具与仓库·· 2 天前精选AI 评分62
实测指南:macOS 27 自带 fm 命令在终端运行 Apple 端侧模型
emiluzelac/on-device-apple-foundation-model
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/emiluzelac/on-device-apple-foundation-model
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布了一份经实测的非官方指南,介绍 macOS 27 自带的 /usr/bin/fm 命令,它可免费、离线调用 Apple Foundation Models 约 30 亿参数的端侧模型,无需账号或 API key。指南覆盖 sudo fm license 授权、fm respond 摘要与图像描述、fm schema object 结构化 JSON 输出、fm chat 会话管理,以及 fm serve 提供的 OpenAI 风格本地端点(模型名须为 system,默认流式输出)。实测发现单会话上限约 8,100 token,输入超约 6,000 token 后易被拒答,代码、数学和世界知识类问题表现较弱。
推荐理由
作者在 Apple Silicon iMac 上逐条实测了 fm 命令的设置、JSON 输出、本地 API 和约 8,100 token 上限,并标注了未验证之处。
来源:GitHub · 去对齐工具与仓库 · github.com