热点事件持续更新

Qwen3.8-27B 六引擎实测：长上下文排名反转

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Reddit 用户 fuzhongkai 对 Qwen3.8-27B 在六款推理引擎上做了实测，除 TTFT、prefill 与 decode 吞吐、并发和端到端延迟外，还用自动检查评估输出质量，覆盖 64K、128K、256K 三种长上下文配置，并对比 GGUF 与 NInfer 两种模型格式。结果显示不同负载下排名差异明显，部分在短提示下表现好的配置到 128K–256K 时竞争力下降。作者称，这些对比反映的是完整的引擎与模型配置，并非对模型格式本身的单独测量；他本人是参评引擎之一 TensorSharp 的作者。

AI 根据报道生成 · 9 小时前更新

报道时间线

沿着报道，了解事件的不同侧面。

11月6日

07:39
Reddit · r/LocalLLaMA
Qwen3.8-27B 六款推理引擎实测：GGUF 与 NInfer 对比速度与质量
作者对 Qwen3.8-27B 在六款推理引擎上做了实测，除 TTFT、prefill 与 decode 吞吐、并发和端到端延迟外，还用自动检查评估输出质量。测试覆盖 64K、128K、256K 三种长上下文配置，并对比 GGUF 与 NInfer 两种模型格式；结果显示不同负载下排名差异明显，部分短提示下表现好的配置在 128K–256K 时竞争力下降。作者披露自己是 TensorSharp 的作者，完整结果见附图。

本事件热度走势

可比范围当前: 8
可比范围峰值: 1011月6日 08:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。