UbhiTS/llm-compare 开源:三模型并发实测横向对比工具
开源项目 llm-compare 可把同一任务并发发给最多三个 LLM,实时测量正确率、成本、耗时和 token 吞吐并流式展示。编码任务在沙箱中跑隐藏边界测试评分,开放性任务由盲评 LLM judge 按加权 rubric 打分;内置 17 个文件式任务,支持 Gemini、Claude、GPT、Kimi 等模型目录和自备 API key,本地一条命令启动,可经 keyless CI 部署到 Google Cloud Run,MIT 协议开源。