OpceanAI发布说明仓库解释扩散模型无GGUF
先了解这件事
OpceanAI发布了一个说明仓库，解释其 Qwen3.5-0.8B-abliterated-diffusion 为何没有 GGUF 版本。该仓库不含权重文件，作者称这是有意为之，并说明这里没有可下载的内容。 据该仓库说明，这个 752M 参数的掩码扩散模型使用双向注意力、DeltaNet 反向扫描、rev_gate 张量、mask_embed 和并行去掩码推理，这些都无法被 GGUF/llama.cpp 的因果自回归格式表达；强行用 convert_hf_to_gguf.py 转换会丢弃 rev_gate 与 mask_embed，得到因果推理几何错误的劣化模型。 仓库建议改用 safetensors 检查点配合 dqwen.hub 加载，实际速度需要 GPU；同系列的自回归版本已提供 F16 至 TQ2_0 等量化 GGUF。
AI 根据报道生成 · 16 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Hugging Face · 新模型：abliteratedOpceanAI/Qwen3.5-0.8B-abliterated-diffusion 为何没有 GGUF 版本
OpceanAI/Qwen3.5-0.8B-abliterated-diffusion 是掩码扩散语言模型，其双向注意力、DeltaNet 反向扫描、rev_gate 张量、mask_embed 及并行去掩码推理均无法被 GGUF/llama.cpp 的因果自回归格式表达，因此该仓库不含权重文件。强行用 convert_hf_to_gguf.py 转换会丢弃 rev_gate 与 mask_embed，产出因果推理几何错误的劣化模型。该模型为 752M 参数 bf16（约 1.5 GB），需用 safetensors 配合 dqwen.hub 加载，实际速度依赖 GPU；其自回归同系列版本已提供 F16 至 TQ2_0 等量化 GGUF。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 1011月7日 02:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。