跳到正文
热点事件持续更新

8GB 显存 2070s MAX 用户求推荐 12b 以下稀疏 MoE 模型跑 RP

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

一位 r/SillyTavernAI 用户在 8GB 显存的 RTX 2070s MAX 上跑 gemma 4(8b)稠密模型做 RP,VRAM 被占满但尚可接受;换用 12b 的稀疏 MoE 模型 dekard LFM 后质量不如 gemma,因此发帖求推荐 12b 以下、能服从大型系统提示词并保持 RP 质量的稀疏 MoE 模型。

AI 根据报道生成 · 54 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. Reddit · r/SillyTavernAI
    8GB 显存的 2070s MAX 适合跑哪些稀疏 MoE 模型?RP 场景求推荐

    一位 r/SillyTavernAI 用户用 8GB 显存的 RTX 2070s MAX 跑 gemma 4(8b)稠密模型做 RP,虽能接受但 VRAM 占满;换成 12b 的稀疏 MoE 模型 dekard LFM 后质量不如 gemma,遂求推荐更小(12b 以下)、能服从大型系统提示词且保持 RP 质量的稀疏 MoE 模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。