GitHub 开源 llm_adapter：多模型 LLM 推理编排器，支持 Tool Calling 与多协议

GitHub 开源项目 llm_adapter 提供支持 Qwen、Nemotron 及 Claude 协议的多模型 LLM 推理编排，兼容 Anthropic Messages API 与 OpenAI Chat Completions 格式，内置联网搜索、计算器等 Tool Calling 能力，20 项测试全部通过。通过 YaRN 8× RoPE 缩放支持 1M token 上下文，支持 Qwen 27B/35B 与 Nemotron 120B，在 4x RTX 6000 Ada 上以张量并行运行，5 分钟内即可克隆安装部署。