开发者将 LFM3 导出至 ExecuTorch 实现手机离线运行并开源
热点事件持续更新
开发者将 LFM3 导出至 ExecuTorch 实现手机离线运行并开源
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开发者 /u/K4anan（Private Mind）将 Liquid 的 LFM3-1.7B 和 LFM3-VL-2B 模型重写解码器并导出为 ExecuTorch 格式，权重已发布在 Hugging Face，并集成到其开源应用 Private Mind 中，在 iPhone 和 Android 上实现完全离线运行。 为支持导出，作者用纯 PyTorch 重写了解码器，并与 Liquid 参考实现对比验证，最大 logit 差异为 0.00005，前 10 个 token 一致。性能方面，作者称在 iPhone 16 Pro 上 LFM3-1.7B 文本模型（MLX 4-bit）约 40 tok/s、首 token 低于 0.5 秒；LFM3-VL-2B 带图首 token 约 9 秒、解码约 20 tok/s，并演示了 VL 模型读日文拉面菜单并回答问题。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- Reddit · r/LocalLLaMA精选LFM3-1.7B 与 LFM3-VL-2B 在 iPhone 和 Android 上完全离线运行，并开源导出到 ExecuTorch 的方法
作者将 LFM3-1.7B 和 LFM3-VL-2B 移植到自家开源应用 Private Mind，在 iPhone 和 Android 上完全离线运行，LFM3-VL-2B 能读日文拉面菜单并回答不辣和刷卡问题。iPhone 16 Pro 上 LFM3-1.7B 文本 MLX 4-bit 约 40 tok/s、首 token 低于 0.5s，VL-2B 带图首 token 约 9s、解码约 20 tok/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。