实测进程内 BM25 记忆索引在 1k/5k/10k 条目下的内存占用
Measured: what an in-process BM25 memory index costs in RAM at 1k / 5k / 10k entries
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Neither-Witness-6010
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xp7hs8/measured_what_an_inprocess_bm25_memory_index/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
CogniCore 作者实测了进程内 BM25 记忆索引的本地开销：1k、5k、10k 条目分别占用 4.8 MB、23 MB、46 MB 内存，磁盘 JSON 为 1.7 MB、8.4 MB、17 MB，检索延迟为 7 ms、34 ms、68 ms，约每条目 4.6 KB 内存与 1.7 KB 磁盘且均线性增长。作者指出主要成本是每条目常驻的 TF-IDF 字典而非词表，检索是线性扫描而非倒排索引，延迟随条目数增长到 25k 约 170 ms，持久化每次写入重写整个 JSON 文件使插入成本呈二次增长。后端默认上限为 10,000 条，超出后淘汰相关性最低的条目，作者认为约 10k 条目适合个人智能体的历史记录，更大规模应改用嵌入向量或真正的索引。
作者实测了进程内 BM25 记忆索引在 1k 到 10k 条目下的内存占用与检索延迟，并指出逐条 TF-IDF 字典和全量 JSON 重写是主要开销。
来源：Reddit · r/LocalLLaMA · reddit.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。