跳到正文
GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分59

fan-out-openrouter:将请求扇出到多个模型并合成单一回复的 OpenRouter 代理

jonbaldie/fanout-openrouter

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/jonbaldie/fanout-openrouter

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

jonbaldie 发布 fan-out-openrouter,一个 OpenRouter 兼容的 chat completion 代理,可将请求并发扇出到多个模型、合成候选答案后返回标准响应,严格遵循 OpenAI wire protocol,支持流式输出与 tool calling。虚拟模型通过 fanout_policies.json 定义候选模型、fanout_count、合成模型与回退模型;候选模型的 tool call 会被序列化后交由合成模型评估并原生执行。项目基于 Python >= 3.12 与 uv,提供 opencode 接入配置示例,采用 MIT 许可证。

推荐理由

原文完整给出了代理的扇出与合成架构、策略文件配置和 opencode 接入方法,读者可以直接照着部署复用。

来源:GitHub · 去对齐工具与仓库 · github.com