arXiv · cs.AI· Thanh Q. Tran·· 5 天前AI 评分43
DIAL:通过蒸馏指令遵循程度实现对语言模型的细粒度可控
DIAL: Steerable Language Models with Distilled Instruction-Adherence Levels
来源与原文
arXiv · cs.AI
作者:Thanh Q. Tran
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.31438v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
DIAL(Distilled Instruction-Adherence Levels)是一个实现对大语言模型指令遵循程度进行细粒度数值控制的框架,同时兼顾可控性、效率与可扩展性。它用冻结 LLM 结合 classifier-free guidance 生成训练信号进行 on-policy 蒸馏,并设计了基于 LLM hidden states 分类器的轻量级 steering adapter 逐 token 自适应调节强度。配套发布的 SteirF 数据集含 98,625 条指令,训练后 DIAL 可细粒度控制 persona,并与提示词结合提升可验证指令遵循。
来源:arXiv · cs.AI · arxiv.org