Hugging Face · 新模型:abliterated·· 17 小时前AI 评分38
OpceanAI/Qwen3.5-0.8B-abliterated-diffusion 为何没有 GGUF 版本
OpceanAI/Qwen3.5-0.8B-abliterated-diffusion-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/OpceanAI/Qwen3.5-0.8B-abliterated-diffusion-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
OpceanAI/Qwen3.5-0.8B-abliterated-diffusion 是掩码扩散语言模型,其双向注意力、DeltaNet 反向扫描、rev_gate 张量、mask_embed 及并行去掩码推理均无法被 GGUF/llama.cpp 的因果自回归格式表达,因此该仓库不含权重文件。强行用 convert_hf_to_gguf.py 转换会丢弃 rev_gate 与 mask_embed,产出因果推理几何错误的劣化模型。该模型为 752M 参数 bf16(约 1.5 GB),需用 safetensors 配合 dqwen.hub 加载,实际速度依赖 GPU;其自回归同系列版本已提供 F16 至 TQ2_0 等量化 GGUF。
来源:Hugging Face · 新模型:abliterated · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。