Basalt 0.2.0 发布:新增 NVFP4-DQ8 量化,速度提升
热点事件观察中
Basalt 0.2.0 发布:新增 NVFP4-DQ8 量化,速度提升
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
面向 Qwen 3.8 Flash Next 的 Blackwell 专用推理引擎 Basalt 发布 0.2.0 版本,作者称在 5090+5060 Ti 上跑出 prose 300 t/s、struct 600 t/s 的速度。 新版本新增 NVFP4-DQ8 量化版本,作者称其 KLD 为 0.0561,优于默认 DQ6_K 的 0.0624,代价是 prose 场景约慢 7%。该量化版本已上架 Hugging Face,默认关闭,开启时会显示警告。
AI 根据报道生成 · 9 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- Reddit · r/LocalLLaMA精选Basalt 0.2.0 发布:Qwen 3.8 Flash Next 在 5090+5060 Ti 上跑出 300 t/s prose、600 t/s struct
Basalt 0.2.0 发布,这是面向 Qwen 3.8 Flash Next 的 Blackwell 专用推理引擎,新增 NVFP4-DQ8 量化版本(KLD 0.0561 vs DQ6_K 的 0.0624,prose 约 7% 更慢)。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 511月5日 05:00
- 近 24 小时变化
- –
0246
06:0008:0010:0012:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。