跳到正文
更多
热点事件持续更新

LocalLLaMA 用户求解:Strata 能否跨两台设备拆分运行 Qwen3.8-Flash-Next

1 篇报道1 个报道来源20 小时前更新

先了解这件事

AI 综述

一位 r/LocalLLaMA 用户发帖询问:能否在 Strata 上运行 Qwen3.8-Flash-Next(125B-A6B),并利用第二台 PC 的 32 GB DDR4 内存做拆分,还是 Strata 仅限单机使用。 其主机配置为 RX 9070 XT(16 GB 显存)加 32 GB DDR5,目前用 llama.cpp(Vulkan 和 ROCm 10.1)运行 Qwen3.8-27B(IQ3_M)约 65 tok/s。该用户还希望了解 llama.cpp RPC 经局域网拆分 experts 时的实际 tok/s 与首 token 延迟。帖中问题尚无结论。

AI 根据报道生成 · 19 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. Reddit · r/LocalLLaMA
    Strata 能否跨两台设备拆分运行 Qwen3.8-Flash-Next?LocalLLaMA 用户求解

    一位 LocalLLaMA 用户想在 Strata 上运行 Qwen3.8-Flash-Next(125B-A6B),询问能否利用第二台 PC 的 32 GB DDR4 内存,还是 Strata 仅限单机。其主机为 RX 9070 XT(16 GB)+ 32 GB DDR5,当前在 llama.cpp(Vulkan 和 ROCm 10.1)上跑 Qwen3.8-27B(IQ3_M)约 65 tok/s,并求证 llama.cpp RPC 经局域网拆分 experts 的实际 tok/s 与首 token 延迟。

本事件热度走势

可比范围当前
6
可比范围峰值
910月31日 10:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。