跳到正文
热点事件持续更新

发布 QFN-C Qwen3.8-Flash-Next 拼装 GGUF

1 篇报道1 个报道来源23 小时前更新

先了解这件事

报道摘要

Tvene88 在 Hugging Face 发布 QFN-C,把 Qwen3.8-Flash-Next(176.94B 参数)的 100.14 GiB GGUF 拆分组合,使其能在一张 RTX 5090(32GB 显存)加 96GB 内存上以 524,288-token 上下文跑出 41.6 tokens/s。所有非专家张量来自 huihui-ai 的 abliterated 版本(96 个张量经消融编辑),作者明确说明其拒绝行为未经评测;全程未训练或再量化,仅逐字节拷贝四个公开 GGUF 发行版的张量。速度依赖打了补丁的 llama.cpp(量化 KV 稀疏注意力加页锁定专家内存),配方、组装器、补丁和复现步骤在 GitHub 仓库公开,权重遵循 Qwen Community License 1.0。

摘自 Hugging Face · 新模型:abliterated

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. Hugging Face · 新模型:abliterated精选
    Tvene88 发布 QFN-C 组合版,Qwen3.8-Flash-Next 176.94B 单张 32GB GPU 跑出 524K 上下文

    Tvene88 在 Hugging Face 发布 QFN-C,把 Qwen3.8-Flash-Next(176.94B 参数)的 100.14 GiB GGUF 拆分组合,使其能在一张 RTX 5090(32GB 显存)加 96GB 内存上以 524,288-token 上下文跑出 41.6 tokens/s。所有非专家张量来自 huihui-ai 的 abliterated 版本(96 个张量经消融编辑),作者明确说明其拒绝行为未经评测;全程未训练或再量化,仅逐字节拷贝四个公开 GGUF 发行版的张量。速度依赖打了补丁的 llama.cpp(量化 KV 稀疏注意力加页锁定专家内存),配方、组装器、补丁和复现步骤在 GitHub 仓库公开,权重遵循 Qwen Community License 1.0。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。