开源Adaptive LLM Router原型:按提示词选最低成本模型
热点事件持续更新
开源Adaptive LLM Router原型:按提示词选最低成本模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开发者 allali-hamza 在 GitHub 发布开源原型 Adaptive LLM Router:用 all-MiniLM-L6-v2 嵌入预测提示词的任务类型、难度与所需质量,再从能力表中选出满足质量要求的最低成本模型,并通过 FastAPI 提供 POST /route 接口。 在 2,606 条提示词的留出测试集上,其 cost_first_policy 相比始终选用 gpt-5.5 估算成本降低约 37.1%。需注意这是路由模拟结果:能力表为实验用种子数据,模型质量与成本数值是假设值,尚未接入真实供应商数据,也未评估生成的回答质量。
AI 根据报道生成 · 1 小时前更新
最新进展11月1日 03:37
Adaptive LLM Router:按提示词自动选择最低成本 LLM 的路由原型报道时间线
沿着报道,了解事件的不同侧面。
11月1日
- GitHub · 去对齐工具与仓库Adaptive LLM Router:按提示词自动选择最低成本 LLM 的路由原型
Adaptive LLM Router 是一个根据提示词选择语言模型的开源原型,通过 all-MiniLM-L6-v2 嵌入预测任务类型、难度、所需质量等属性,再从能力表中选出满足质量要求的最低成本模型。在 2,606 条提示词的留出测试集上,cost_first_policy 相比始终选用 gpt-5.5 降低约 37.1% 估算成本。项目基于 FastAPI 提供 POST /route 接口,目前为基于种子能力表的路由模拟,尚未接入真实供应商数据。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。