GitHub · 灵魂体仓库·· 19 天前AI 评分49
llm-agent-evals:基于 SmolLM2-360M 的工具调用杂货 Agent 评测与 LoRA 微调项目
sudhir-77/llm-agent-evals
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/sudhir-77/llm-agent-evals
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 llm-agent-evals 构建了一个使用 run_sql(只读 SQL)和 FAISS 搜索两个工具的杂货目录 Agent,并对 SmolLM2-360M 的三种设置进行评测:zero-shot 提示、few-shot 提示和 CPU LoRA 微调。评测覆盖 200 个 held-out 问题,指标包括执行准确率、答案匹配、失败模式、延迟和 token 数;测试模板与训练数据不相交。项目代码采用 MIT 许可,模型权重为 Apache 2.0。
来源:GitHub · 灵魂体仓库 · github.com