跳到正文
GitHub · 灵魂体仓库·· 17 天前AI 评分44

llm-classifier-bench:可复现的 LLM 文本分类基准

lucasbiagettia/llm-classifier-bench

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/lucasbiagettia/llm-classifier-bench

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源项目 llm-classifier-bench 提供可复现的基准基础设施,在预测质量、概率校准、延迟和成本四个维度对比封闭集文本分类方法,支持 TF-IDF、MiniLM、BERT 微调及 OpenAI、GPT-6 Decisions 等 8 个分类器家族。在 Banking77 的 V2 基准中,Emissary Llama SFT(K=100)达到 98.00% 准确率、K=20 下 93.38%;GPT-6 Decisions(gpt-6-luna)zero-shot K=5 达 93.00%,在 1,990 个分类中出现 10 次拒答。所有报告可基于版本化摘要离线重建,无需 API 调用。

来源:GitHub · 灵魂体仓库 · github.com