德州农工团队提出置信度分层人机协同评测统计框架
热点事件持续更新
德州农工团队提出置信度分层人机协同评测统计框架
1 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
德州农工大学 Harine Choi 等研究团队在 arXiv 发布论文,提出统一统计框架,将模型自置信与 LLM-as-a-judge 两条评测路线纳入置信分层抽样与误差校正估计(arXiv:2610.35698)。 在 MMLU-Pro 和 MMMU-Pro 上的实验显示,即使置信度未校准也能支撑统计有效的分层审计;当置信分布高度不均衡时,按比例分配可显著降低估计误差。研究同时指出,仅少量目标-验证器对满足人标效率条件,且自动推理成本可能限制实际节省空间。复现材料已随论文发布。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 00:25
从自置信到统计准确:用直接审计与 LLM 辅助审计扩展人在回路评测报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv · cs.CL从自置信到统计准确:用直接审计与 LLM 辅助审计扩展人在回路评测
一项研究提出统一统计框架,将模型自置信与 LLM-as-a-judge 两条评测路线纳入置信分层抽样与误差校正估计。在 MMLU-Pro 和 MMMU-Pro 上的实验表明,即使置信度未校准也能支撑统计有效的分层审计,置信分布高度不均衡时按比例分配可显著降低估计误差。研究还指出仅少量目标-验证器对满足人标效率条件,且自动推理成本可能限制节省空间。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。