跳到正文
我的
Reddit · r/LocalLLaMA· /u/Usual_Maximum7673·· 20 小时前精选AI 评分58

Jeff v1.4 发布:0.8B 决策模型新增 34 个开放权重适配器与 5 个 SDK

Jeff v1.4: Decisions as a software primitive, 5 SDKs, 34 open-weight adapters (CUDA + MLX), 90%+ accuracy, 2 ms inference

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Usual_Maximum7673

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xpdtx2/jeff_v14_decisions_as_a_software_primitive_5_sdks/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Jeff v1.4 发布,这是一个 0.8B 小模型,通过 LoRA 适配器做决策并返回校准概率。新版本提供 34 个开放权重决策适配器和一个自动选择适配器的路由器,支持领域准确率 90%+,单次决策推理约 2 ms,经托管 API 调用含网络开销约 40 ms。同时放出 Python、Node.js、Rust、C#、Java 五个 SDK,可在 CUDA 和 MLX 上运行,代码、权重与适配器目录均已公开。

推荐理由

作者放出 0.8B 决策模型 v1.4,给出 34 个适配器、90%+ 准确率与 2 ms 推理等具体指标,便于判断本地决策模型是否可用。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。