GitHub · 灵魂体仓库·· 21 天前精选AI 评分60
conformal-llm:用保形预测为 Qwen2.5-3B 的 MMLU 答案生成带 90% 覆盖保证的选项集合
nepalanurag/conformal-llm
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/nepalanurag/conformal-llm
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者让本地运行的 Qwen2.5-3B-Instruct(Q8_0 GGUF,经 llama.cpp)回答 MMLU 三个学科的 416 道选择题,用 split conformal prediction 把输出概率转成带数学保证的答案集合:每个集合以至少 90% 概率包含正确选项。
推荐理由
作者用 split conformal prediction 给小模型输出加了 90% 覆盖保证,并给出 LAC 与 APS 的实测对比数据,方法可复现。
来源:GitHub · 灵魂体仓库 · github.com