Hugging Face Blog·· 13 天前精选AI 评分62
Hugging Face 介绍 Decision Models 及其统一接口
Decision Models in Hugging Face
来源与原文
Hugging Face Blog
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/blog/decision
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Hugging Face 在 transformers 中引入决策模型(decision model)支持,模型对预定义答案直接输出概率分布而不生成文本,提供 choice、score、noul 三类原语及 confidence 字段。Transformers 新增 DecisionPipeline、AutoModelForDecision 和 /v1/systemone 端点,llama.cpp 以相同接口支持 GGUF 决策模型如 ggml-org/Kev-4B-GGUF,Hub 上线专用标签,并可用 Trainer 微调(如 autotrust/JEV-9B)、TRL 的相关支持 PR 尚在开发中。
推荐理由
官方详解了 decision model 的三类原语和置信度算法,并给出 Transformers 与 llama.cpp 的完整调用与微调示例,方法可直接复用。
来源:Hugging Face Blog · huggingface.co