发布 strata-dflash2-gfx906 混合 ROCm/CUDA 分支
热点事件持续更新
发布 strata-dflash2-gfx906 混合 ROCm/CUDA 分支
1 篇报道1 个报道来源59 分钟前更新
先了解这件事
AI 综述
用户 /u/milpster 发布 strata-dflash2-gfx906-mixed-rocm-cuda 推理分支，面向以 ROCm 为主、另有一张闲置 CUDA GPU 的系统：在 2× Radeon VII（gfx906）加一张 8 GiB NVIDIA 笔记本卡上服务约 47 GiB MoE 模型，NVIDIA 卡通过 socket 向 AMD 引擎提供 expert/prefill 行。 作者称相比同日原版，解码速度提升 49%（34.7 对 23.3 tok/s 池化中位数），短提示读取快 1.4–2.4 倍，主机内存减少 6.2 GiB；但全新约 16k prefill 读取慢 12%。构建基于固定 ROCm 6.1 与自定义 gfx906-xnack rocBLAS，提供 OpenAI 与 Anthropic 兼容 API。
AI 根据报道生成 · 56 分钟前更新
报道时间线
沿着报道，了解事件的不同侧面。
11月7日
- Reddit · r/LocalLLaMA精选strata-dflash2-gfx906-mixed-rocm-cuda 分支让 ROCm 与 CUDA 混合服务 gfx906
/u/milpster 发布 strata-dflash2-gfx906-mixed-rocm-cuda 分支，在 2× Radeon VII（gfx906）加一张 8 GiB NVIDIA 笔记本卡上以约 47 GiB MoE 模型做日常服务，NVIDIA 卡通过 socket 向 AMD 引擎提供 expert/prefill 行。作者称相比同日原版解码速度提升 49%（34.7 对 23.3 tok/s 池化中位数），短提示读取快 1.4–2.4 倍，主机内存减少 6.2 GiB，但全新约 16k prefill 读取慢 12%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。