跳到正文
热点事件持续更新

laya-mlx 发布:Laya 决策模型移植到 MLX 可本地运行

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

开发者 mizorewww 发布 laya-mlx,将 Convai Innovations 的开放权重模型 Laya 移植到 MLX,使其可在 Apple Silicon 上不依赖 PyTorch 或云 API 本地运行,用一次双向前向传播对受约束问题输出校准概率。 移植版提供三个 FP16 checkpoint(421M 英文、322M 多语言、421M typed-decisions),M3 Max 上短问题 P50 延迟为 13.42 ms,多语言版为 7.39 ms,三个 checkpoint 在 63 个验证问题上与上游选择一致。运行需 Apple Silicon、macOS 14+ 和 Python 3.11+,首次加载需下载 checkpoint,之后推理完全本地。 该项目为独立移植,非 Convai Innovations 官方发布,遵循上游 v0.4.17,采用 Apache-2.0 许可。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. GitHub · 3D 生成新仓库
    laya-mlx 发布:Laya 类型化决策模型的原生 MLX 移植

    mizorewww 发布 laya-mlx,将 Convai Innovations 的 Laya 开放权重模型移植到 MLX,可在 Apple Silicon 上无需 PyTorch 或云 API 本地运行,用一次双向前向传播对受约束问题(选项、rubric 打分、真假判断)输出校准概率。提供三个 MLX FP16 checkpoint(421M 英文、322M 多语言、421M typed-decisions),M3 Max 上短问题 P50 延迟 13.42 ms、多语言版 7.39 ms,三档 checkpoint 在 63/63 个验证问题上与上游选择一致;项目为独立移植,遵循上游 v0.4.17,Apache-2.0 许可。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。