跳到正文
我的
GitHub · 去对齐工具与仓库·· 3 小时前AI 评分39

Adaptive LLM Router:按提示词自动选择最低成本 LLM 的路由原型

allali-hamza/cost-aware-llm-router

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/allali-hamza/cost-aware-llm-router

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Adaptive LLM Router 是一个根据提示词选择语言模型的开源原型,通过 all-MiniLM-L6-v2 嵌入预测任务类型、难度、所需质量等属性,再从能力表中选出满足质量要求的最低成本模型。在 2,606 条提示词的留出测试集上,cost_first_policy 相比始终选用 gpt-5.5 降低约 37.1% 估算成本。项目基于 FastAPI 提供 POST /route 接口,目前为基于种子能力表的路由模拟,尚未接入真实供应商数据。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。