Sukami 开源 AI 网关发布：Token 优化与语义缓存
热点事件持续更新
Sukami 开源 AI 网关发布：Token 优化与语义缓存
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开发者 alexpatil 在 GitHub 开源了 Sukami，一个纯 Go 编写的 OpenAI 兼容 AI 网关，采用 MIT 协议、单二进制零运行时依赖。它通过提示词剪枝减少 20–35% 的输入 token，并用内置 sub-10ms 语义向量缓存命中语义等价请求，无需修改应用代码即可接入。据其自述基准测试，比直连快 38.6%、省 35.6% token，每 10 万次查询约省 $750。它支持在 OpenAI、Groq、DeepSeek、OpenRouter 和 Ollama 之间路由，可将低复杂度查询导向 gpt-4o-mini 等经济型模型，据称可降低 80–95% token 成本。项目仍处早期活跃开发阶段，官方称已可支持单节点生产部署。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 01:29
Sukami：纯 Go 编写的高性能 AI 网关与 Token 优化代理报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- GitHub · 灵魂体仓库Sukami：纯 Go 编写的高性能 AI 网关与 Token 优化代理
Sukami 是一个 OpenAI 兼容的 AI 网关，通过提示词剪枝减少 20–35% 的输入 token，并以内置 sub-10ms 语义向量缓存命中语义等价请求。它支持在 OpenAI、Groq、DeepSeek、OpenRouter 和 Ollama 之间智能路由，可将低复杂度查询导向 gpt-4o-mini 等经济型模型，降低 80–95% token 成本。基准测试显示比直连快 38.6%、省 35.6% token，每 10 万次查询约省 $750，项目以 MIT 协议开源，单二进制零运行时依赖。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。