跳到正文
我的
Reddit · r/LocalLLaMA· /u/m4rkGS·· 20 小时前AI 评分50

Nace AI 发布 50 页 Drex 决策模型技术报告,公开架构、训练与评测全流程

[R] First paper on how to train actual SOTA Decision Models ever: full playbook - architecture, datasets, training, evaluation, inference

来源与原文

Reddit · r/LocalLLaMA

作者:/u/m4rkGS

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xpeevv/r_first_paper_on_how_to_train_actual_sota/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Nace AI Research Lab 发布了一份 50 页技术报告,详细说明其 Drex 决策模型如何构建、训练和评测,并公开了架构、数据集、训练与推理细节。报告披露了 RLAF、置信度校准和选项打乱等后训练技术,消融显示大部分提升来自 SFT,RLAF 增益较小但改善了校准。Drex v1.5 在其 32K–128K token 长上下文基准上准确率为 93.4%,Drex v2.0 在约 115K 条留出决策上的校准 ECE 为 1.37%,128K token 上下文延迟低于 100 ms;模型以 safetensors 和 GGUF 格式提供,支持 llama.cpp 与 Ollama。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。