arXiv · cs.CL· Agus Sudjianto·· 8 天前AI 评分35
教师监督、固定表示与校准:候选评分决策模型的精确风险计算
Teacher Supervision, Fixed Representations and Calibration: Exact Risk Calculations for Candidate-Scoring Decision Models
来源与原文
arXiv · cs.CL
作者:Agus Sudjianto
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.26797v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
论文在 Gaussian 替代模型下精确计算候选评分决策模型(如 Jev 与开源的 JevAny)的有限样本风险,分析教师软目标、冻结预训练骨干和温度校准三种训练要素。学生模型会继承教师偏差,更多数据无法消除;固定表示只在明确样本量阈值以下降低风险;温度校准仅在教师系数方向正确时消除全部超额风险。在 CFPB 的 231,521 条信用卡投诉数据上,用结果训练的学生比教师决策成本低 8%,30B 模型 zero-shot 经重校准后仍逊于教师,且偏离 Luce 公理性条件 17.5 decibans。
来源:arXiv · cs.CL · arxiv.org