AgentionAI 发布 huihui-ai 消融版 Qwen3.8-Flash-Next GGUF 量化
先了解这件事
AgentionAI 在 Hugging Face 发布了 huihui-ai 去对齐版 Qwen3.8-Flash-Next 的 Gyro GGUF 量化,含 Gyro-S/M/L 三档,分别面向 32 GB、48 GB 和 64 GB 统一内存硬件。abliteration(移除模型权重中的拒绝方向)由 huihui-ai 完成,AgentionAI 仅做量化。其称实测去对齐质量损失很小,Gyro-S/M 与原版 KL 差距在 0.005 以内。 文件有运行限制:上游 llama.cpp 暂不能加载,需使用 Strata 0.2.0 或更新版本(NVIDIA、AMD RX 7000/RX 9000/R9700)、halo-box/strix-llama.cpp master(AMD Strix Halo)或 agentionai/llama.cpp;旧版构建、LM Studio 和 Ollama 无法加载 -noPLE 文件,需改用完整文件。发布方提示该模型可能生成有害或不当内容,不适合面向公众或无人监督的场景使用。
AI 根据报道生成 · 57 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:abliterated精选AgentionAI 发布 Qwen3.8-Flash-Next Gyro abliterated GGUF 量化包
AgentionAI 在 Hugging Face 发布 huihui-ai 去对齐版 Qwen3.8-Flash-Next 的 Gyro GGUF 量化,含 Gyro-S/M/L 三档,分别面向 32 GB、48 GB 和 64 GB 统一内存硬件。abliteration 由 huihui-ai 完成,移除模型权重中的拒绝方向,AgentionAI 仅做量化。实测显示去对齐带来的质量损失很小,abliterated Gyro-S/M 与对应原版 KL 差距在 0.005 以内。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。