跳到正文
GitHub · 去对齐工具与仓库·· 21 天前精选AI 评分65

honchol:单 Go 二进制加 SQLite 的自托管 Honcho 兼容记忆服务器

sitne/honchol

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/sitne/honchol

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

sitne 发布 honchol,一个轻量自托管的 Honcho v3 HTTP API 兼容记忆服务器,单个 Go 静态二进制加一个 SQLite 文件即可运行,无需 Docker 和 Postgres,现有 honcho-ai SDK 客户端改一个 base_url 即可接入。检索不用嵌入向量,采用 FTS5 候选加 LLM judge 重排的两阶段方案,派生管线异步执行并每 15 分钟跑一次;在 4 核无 GPU、约 23k 消息/44k conclusions 的库上,conclusion 查询 p50 约 18 ms,搜索 p50 约 1 s,chat 合成约 7–12 s。

推荐理由

作者给出了 CPU-only 环境下的实测延迟和与上游部署的定性对比,可据此评估轻量自托管记忆服务器的适用场景。

来源:GitHub · 去对齐工具与仓库 · github.com