honchol:单 Go 二进制加 SQLite 的自托管 Honcho 兼容记忆服务器
sitne 发布 honchol,一个轻量自托管的 Honcho v3 HTTP API 兼容记忆服务器,单个 Go 静态二进制加一个 SQLite 文件即可运行,无需 Docker 和 Postgres,现有 honcho-ai SDK 客户端改一个 base_url 即可接入。检索不用嵌入向量,采用 FTS5 候选加 LLM judge 重排的两阶段方案,派生管线异步执行并每 15 分钟跑一次;在 4 核无 GPU、约 23k 消息/44k conclusions 的库上,conclusion 查询 p50 约 18 ms,搜索 p50 约 1 s,chat 合成约 7–12 s。
推荐理由:作者给出了 CPU-only 环境下的实测延迟和与上游部署的定性对比,可据此评估轻量自托管记忆服务器的适用场景。