GitHub · 灵魂体仓库·· 2 小时前精选AI 评分62
开源工具 armor-gw 在应用与模型之间自动重试被拒回答
Dixxxzao-01/armor-gw
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Dixxxzao-01/armor-gw
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布 armor-gw,一个部署在应用与上游模型(OpenAI / Anthropic / 任意 OpenAI 兼容中转)之间的 LLM 请求网关,检测到拒绝式回答时自动改写提示词并重试,直到拿到可用答案。核心功能包括拒绝检测(含 LLM 语义判官)、约 40 个改写算子的变异重试、best-of-n 并行竞速、跨重启的策略 bandit 与输出清洗,附带 Console 控制台、内置对抗测试套件和回归题库,支持 Docker 与 systemd 部署,MIT 许可。
推荐理由
作者开源了自己用的请求网关,讲清了拒绝检测、重试与输出清洗的完整做法,可作参考实现。
来源:GitHub · 灵魂体仓库 · github.com