实测SPLADE稀疏检索替代稠密嵌入模型

1. 22:02
   Reddit · r/LocalLLaMA

   0.1B 级 SPLADE 稀疏检索模型实测替代 8B 稠密嵌入模型

   作者在本地 RAG 场景中用 KURE-sparse-nano 稀疏检索模型替代 Qwen3-Embedding-0.6B 稠密嵌入模型，自建数百条查询的韩英混合数据集评测显示 SPLADE 检索效果更好、查询速度相近且显存占用更低，推理时占用不到 1.5GB VRAM。在 16GB M5 MacBook Air 上稠密模型几乎无法运行并因高温重启，SPLADE 全程无 OOM；作者还发现 SPLADE 与稠密嵌入的混合检索反而不如单独使用 SPLADE，并开源了含 LanceDB 索引与 Rust 倒排索引优化的 AutoRAG Agent 实现。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。