跳到正文
GitHub · 去对齐工具与仓库·· 19 天前精选AI 评分66

Vessel 开源:本地优先的 LLM 流量观测代理

spenceclark/Vessel

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/spenceclark/Vessel

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

spenceclark 在 GitHub 发布 Vessel,一个轻量的本地优先 LLM 流量观测代理,把客户端 base_url 指向单个二进制即可获得捕获、搜索、指标、重放和私有 UI,捕获流量仅存本机。支持 OpenAI、Anthropic、Ollama 及任意 OpenAI 兼容后端的路由与标签,重放可一次扇出最多 8 个变体并对比响应,提供 1–5 评分榜单、CSV/JSONL 导出和只读 MCP 端点,提供 Homebrew、winget、Scoop、Docker 安装方式,MIT 协议。

推荐理由

开源的本地 LLM 流量观测代理,读者可以借此在不改客户端的情况下捕获、重放和对比多后端请求。

来源:GitHub · 去对齐工具与仓库 · github.com