跳到正文
Reddit · r/LocalLLaMA· /u/Taenin·· 3 小时前AI 评分36

如何构建一个类似 Jev 的决策模型:Oumi 的逆向分析

How to Build a Decision Model Like Jev

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Taenin

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xguv3i/how_to_build_a_decision_model_like_jev/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Oumi 团队通过多组实验推测 TypeSafe 的 Jev 决策模型的底层来源:其很可能基于 Qwen 3.5 或 3.6,为 35B-A3B 规模,tokenizer 可能是 Qwen 与 GPT-OSS 的合并。训练疑似采用基于合成数据的 soft-label 交叉熵(RLCD),而非 PPO/GRPO;服务端可能使用 tree batching,并借助稀疏注意力或双 GPU 分片 prefill,运行于 B200 及以上 GPU。

来源:Reddit · r/LocalLLaMA · reddit.com