Reddit · r/LocalLLaMA· /u/Travnewmatic·· 3 小时前AI 评分37
Reddit 用户实测 RedHatAI/Qwen3.8-27B-INT4：2x3090 上比 FP8 明显更快
club-3090 / qengine / RedHatAI/Qwen3.8-27B-INT4
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Travnewmatic
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xim690/club3090_qengine_redhataiqwen3827bint4/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 Reddit r/LocalLLaMA 用户在 2x3090 上用双 vLLM 实测 RedHatAI/Qwen3.8-27B-INT4，发现其速度显著快于此前日常使用的 Qwen3.8-27B FP8 方案，也明显快于该模型刚发布时的旧 INT4 版本。发帖人询问其他用户是否也测试过这一量化版本。
来源：Reddit · r/LocalLLaMA · reddit.com