Huihui-Qwen3.5-4B-abliterated-W4A16-GPTQ 上架 Hugging Face
nchapman 在 Hugging Face 发布 Huihui-Qwen3.5-4B-abliterated-W4A16-GPTQ,这是一个 abliterated 的 4B 多模态 GPTQ 量化模型,支持 image-text-to-text 任务。页面给出 Transformers、vLLM、SGLang、Docker Model Runner 等多种部署方式,均可通过 OpenAI 兼容 API 调用。