跳到正文
我的
热点事件持续更新

开源Adaptive LLM Router原型:按提示词选最低成本模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

开发者 allali-hamza 在 GitHub 发布开源原型 Adaptive LLM Router:用 all-MiniLM-L6-v2 嵌入预测提示词的任务类型、难度与所需质量,再从能力表中选出满足质量要求的最低成本模型,并通过 FastAPI 提供 POST /route 接口。 在 2,606 条提示词的留出测试集上,其 cost_first_policy 相比始终选用 gpt-5.5 估算成本降低约 37.1%。需注意这是路由模拟结果:能力表为实验用种子数据,模型质量与成本数值是假设值,尚未接入真实供应商数据,也未评估生成的回答质量。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月1日
  1. GitHub · 去对齐工具与仓库
    Adaptive LLM Router:按提示词自动选择最低成本 LLM 的路由原型

    Adaptive LLM Router 是一个根据提示词选择语言模型的开源原型,通过 all-MiniLM-L6-v2 嵌入预测任务类型、难度、所需质量等属性,再从能力表中选出满足质量要求的最低成本模型。在 2,606 条提示词的留出测试集上,cost_first_policy 相比始终选用 gpt-5.5 降低约 37.1% 估算成本。项目基于 FastAPI 提供 POST /route 接口,目前为基于种子能力表的路由模拟,尚未接入真实供应商数据。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。