跳到正文
我的
热点事件观察中

Basalt 0.2.0 发布:新增 NVFP4-DQ8 量化,速度提升

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

面向 Qwen 3.8 Flash Next 的 Blackwell 专用推理引擎 Basalt 发布 0.2.0 版本,作者称在 5090+5060 Ti 上跑出 prose 300 t/s、struct 600 t/s 的速度。 新版本新增 NVFP4-DQ8 量化版本,作者称其 KLD 为 0.0561,优于默认 DQ6_K 的 0.0624,代价是 prose 场景约慢 7%。该量化版本已上架 Hugging Face,默认关闭,开启时会显示警告。

AI 根据报道生成 · 9 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. Reddit · r/LocalLLaMA精选
    Basalt 0.2.0 发布:Qwen 3.8 Flash Next 在 5090+5060 Ti 上跑出 300 t/s prose、600 t/s struct

    Basalt 0.2.0 发布,这是面向 Qwen 3.8 Flash Next 的 Blackwell 专用推理引擎,新增 NVFP4-DQ8 量化版本(KLD 0.0561 vs DQ6_K 的 0.0624,prose 约 7% 更慢)。

本事件热度走势

可比范围当前
4
可比范围峰值
511月5日 05:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。