跳到正文
Hugging Face · 新模型:abliterated·· 22 天前AI 评分51

ericmey 发布 Qwen3.8-27B-abliterated GPTQ-Int4 量化版,面向 Intel Arc vLLM 部署

ericmey/Qwen3.8-27B-abliterated-GPTQ-Int4-MTP

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/ericmey/Qwen3.8-27B-abliterated-GPTQ-Int4-MTP

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

ericmey 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 GPTQ-Int4(sym, G128)量化版,附带 BF16 MTP 草稿张量与 F16 视觉塔,约 19 GB,面向 vLLM Intel Arc XPU 部署,也可加载于 CUDA。

来源:Hugging Face · 新模型:abliterated · huggingface.co