GitHub · 灵魂体仓库·· 6 天前AI 评分21
llm-suite:模块化 Rust LLM 工具集
kkkqkx123/llm-suite
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/kkkqkx123/llm-suite
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
llm-suite 是一套模块化 Rust 工具集,将“调用 LLM”从零散的 HTTP 代码整合为分层的 provider 无关协议栈,由 12 个小型 crate 组成工作区。核心包括协议类型层、wire codec(支持 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Gemini 原生)、reqwest 异步传输(支持 SSE 流式)、嵌入与 rerank 能力、配置层,以及统一编排入口 LlmGateway。crate 间构成无环 DAG,tool-call 解析等功能通过 feature flag 按需编译,供 wf-agent 等宿主项目以 git submodule 方式复用。
来源:GitHub · 灵魂体仓库 · github.com