pavsefcik 发布 marv-mlx:Apple Silicon 本地 MLX 模型启动器
先了解这件事
pavsefcik 在 GitHub 发布 marv-mlx(当前版本 0.141.0),一个面向 Apple Silicon 的 zsh 启动器,用于浏览、下载和运行本地 MLX 大模型,并在 localhost:11500 提供 OpenAI 兼容 REST 端点。 使用需 Apple Silicon Mac 和 macOS 14+(安装时自动检查),首次安装需联网,模型缓存后可离线运行;安装脚本无需 Xcode Command Line Tools 或 Homebrew,一行命令完成。API 的 base URL 为 http://localhost:11500/v1,model 填运行模型的 Hugging Face ID,不需要 API key。 TUI 支持多模型并行运行、思考开关和聊天历史;命令行子命令带 --json 输出和稳定退出码,便于脚本调用。内置的流式 MoE 引擎按需从 SSD 读取路由专家并配合有界 LFU 缓存(默认 6 GiB),使约 35B 的 Qwen3.6 MoE 模型可在小内存设备上运行;前缀缓存默认开启以加速多轮对话。
AI 根据报道生成 · 10 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- GitHub · 灵魂体仓库精选pavsefcik 发布 marv-mlx:Apple Silicon 上的 MLX 本地大模型启动器
pavsefcik 在 GitHub 发布 marv-mlx,一个面向 Apple Silicon 的 zsh 启动器,可浏览、下载和运行本地 MLX 大模型,并在 localhost:11500 提供 OpenAI 兼容 REST 端点。安装脚本无需 Xcode Command Line Tools 或 Homebrew,一行命令完成;TUI 支持多模型并行运行、思考开关和聊天历史,命令行子命令带 --json 输出和稳定退出码便于脚本调用。内置的流式 MoE 引擎按需从 SSD 读取路由专家并配合有界 LFU 缓存(默认 6 GiB),使 ~35B 的 Qwen3.6 MoE 模型可在小内存设备上运行;前缀缓存默认开启以加速多轮对话,当前版本为 0.141.0。