用户实测Recursive的MoE模型Flint在低配环境下运行情况
热点事件持续更新
用户实测Recursive的MoE模型Flint在低配环境下运行情况
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Reddit r/LocalLLaMA 用户 /u/xdcfret1 发帖分享对 Recursive 的 MoE 编码模型 Flint 的本地部署体验：该模型总参数 39.8B、每 token 激活约 2.5B。在其 32 GB VRAM 加 32 GB RAM 的环境下，用 llama.cpp 将专家卸载到 CPU 后能以 Q8 量化运行 Flint；同为 27B 的 Qwen 3.8 只能跑 Q6。两者速度均约 40 token/秒，Flint 快 1-2 token/秒。发帖者同时在社区征求意见。
AI 根据报道生成 · 1 小时前更新
最新进展10月29日 04:45
Recursive 的 MoE 编码模型 Flint 引发 LocalLLaMA 社区讨论报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- Reddit · r/LocalLLaMARecursive 的 MoE 编码模型 Flint 引发 LocalLLaMA 社区讨论
Reddit r/LocalLLaMA 用户分享对 Recursive 的 MoE 编码模型 Flint 的体验：总参数 39.8B、每 token 激活约 2.5B。在 32 GB VRAM + 32 GB RAM 环境下，llama.cpp 可将专家卸载到 CPU 后以 Q8 运行 Flint，而 Qwen 3.8 27B 只能跑 Q6，两者速度均约 40 t/s，Flint 快 1-2 token/秒。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。