跳到正文
热点事件持续更新

用户实测 RedHatAI Qwen3.8-27B INT4:2x3090 上快于 FP8

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

一位 Reddit r/LocalLLaMA 用户(/u/Travnewmatic)在双 3090 上用双 vLLM 实测 RedHatAI/Qwen3.8-27B-INT4,称其速度显著快于他此前日常使用的 Qwen3.8-27B FP8 方案,也明显快于该模型刚发布时的旧 INT4 版本。该用户发帖询问其他人是否也测试过这一量化版本。目前这只是单个用户的实测体验,尚无其他独立测试结果佐证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. Reddit · r/LocalLLaMA
    Reddit 用户实测 RedHatAI/Qwen3.8-27B-INT4:2x3090 上比 FP8 明显更快

    一位 Reddit r/LocalLLaMA 用户在 2x3090 上用双 vLLM 实测 RedHatAI/Qwen3.8-27B-INT4,发现其速度显著快于此前日常使用的 Qwen3.8-27B FP8 方案,也明显快于该模型刚发布时的旧 INT4 版本。发帖人询问其他用户是否也测试过这一量化版本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。