跳到正文
Hugging Face Blog·· 13 天前精选AI 评分62

Hugging Face 介绍 Decision Models 及其统一接口

Decision Models in Hugging Face

来源与原文

Hugging Face Blog

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/blog/decision

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 在 transformers 中引入决策模型(decision model)支持,模型对预定义答案直接输出概率分布而不生成文本,提供 choice、score、noul 三类原语及 confidence 字段。Transformers 新增 DecisionPipeline、AutoModelForDecision 和 /v1/systemone 端点,llama.cpp 以相同接口支持 GGUF 决策模型如 ggml-org/Kev-4B-GGUF,Hub 上线专用标签,并可用 Trainer 微调(如 autotrust/JEV-9B)、TRL 的相关支持 PR 尚在开发中。

推荐理由

官方详解了 decision model 的三类原语和置信度算法,并给出 Transformers 与 llama.cpp 的完整调用与微调示例,方法可直接复用。

来源:Hugging Face Blog · huggingface.co