Reddit · r/LocalLLaMA· /u/jeffrey-0711·· 20 小时前AI 评分52
0.1B 级 SPLADE 稀疏检索模型实测替代 8B 稠密嵌入模型
A 0.1B model just killed 8B embedding models... I tried it out.
来源与原文
Reddit · r/LocalLLaMA
作者：/u/jeffrey-0711
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xpdk0i/a_01b_model_just_killed_8b_embedding_models_i/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者在本地 RAG 场景中用 KURE-sparse-nano 稀疏检索模型替代 Qwen3-Embedding-0.6B 稠密嵌入模型，自建数百条查询的韩英混合数据集评测显示 SPLADE 检索效果更好、查询速度相近且显存占用更低，推理时占用不到 1.5GB VRAM。在 16GB M5 MacBook Air 上稠密模型几乎无法运行并因高温重启，SPLADE 全程无 OOM；作者还发现 SPLADE 与稠密嵌入的混合检索反而不如单独使用 SPLADE，并开源了含 LanceDB 索引与 Rust 倒排索引优化的 AutoRAG Agent 实现。
来源：Reddit · r/LocalLLaMA · reddit.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。