跳到正文
arXiv · cs.AI· Thanh Q. Tran·· 5 天前AI 评分43

DIAL:通过蒸馏指令遵循程度实现对语言模型的细粒度可控

DIAL: Steerable Language Models with Distilled Instruction-Adherence Levels

来源与原文

arXiv · cs.AI

作者:Thanh Q. Tran

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.31438v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

DIAL(Distilled Instruction-Adherence Levels)是一个实现对大语言模型指令遵循程度进行细粒度数值控制的框架,同时兼顾可控性、效率与可扩展性。它用冻结 LLM 结合 classifier-free guidance 生成训练信号进行 on-policy 蒸馏,并设计了基于 LLM hidden states 分类器的轻量级 steering adapter 逐 token 自适应调节强度。配套发布的 SteirF 数据集含 98,625 条指令,训练后 DIAL 可细粒度控制 persona,并与提示词结合提升可验证指令遵循。

来源:arXiv · cs.AI · arxiv.org