跳到正文
热点事件观察中

AgentionAI 发布 huihui-ai 消融版 Qwen3.8-Flash-Next GGUF 量化

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

AgentionAI 在 Hugging Face 发布了 huihui-ai 去对齐版 Qwen3.8-Flash-Next 的 Gyro GGUF 量化,含 Gyro-S/M/L 三档,分别面向 32 GB、48 GB 和 64 GB 统一内存硬件。abliteration(移除模型权重中的拒绝方向)由 huihui-ai 完成,AgentionAI 仅做量化。其称实测去对齐质量损失很小,Gyro-S/M 与原版 KL 差距在 0.005 以内。 文件有运行限制:上游 llama.cpp 暂不能加载,需使用 Strata 0.2.0 或更新版本(NVIDIA、AMD RX 7000/RX 9000/R9700)、halo-box/strix-llama.cpp master(AMD Strix Halo)或 agentionai/llama.cpp;旧版构建、LM Studio 和 Ollama 无法加载 -noPLE 文件,需改用完整文件。发布方提示该模型可能生成有害或不当内容,不适合面向公众或无人监督的场景使用。

AI 根据报道生成 · 57 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. Hugging Face · 新模型:abliterated精选
    AgentionAI 发布 Qwen3.8-Flash-Next Gyro abliterated GGUF 量化包

    AgentionAI 在 Hugging Face 发布 huihui-ai 去对齐版 Qwen3.8-Flash-Next 的 Gyro GGUF 量化,含 Gyro-S/M/L 三档,分别面向 32 GB、48 GB 和 64 GB 统一内存硬件。abliteration 由 huihui-ai 完成,移除模型权重中的拒绝方向,AgentionAI 仅做量化。实测显示去对齐带来的质量损失很小,abliterated Gyro-S/M 与对应原版 KL 差距在 0.005 以内。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。