跳到正文
Hugging Face · 新模型:abliterated·· 21 天前AI 评分40

Huihui-Qwen3.6-27B-abliterated-AWQ-MTP 发布:Qwen3.6-27B 去审查版

spotapovadm/Huihui-Qwen3.6-27B-abliterated-AWQ-MTP

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/spotapovadm/Huihui-Qwen3.6-27B-abliterated-AWQ-MTP

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

基于 Qwen/Qwen3.6-27B 的去审查(abliterated)版本已在 Hugging Face 上发布,采用 AWQ 量化并支持 MTP 投机解码。在单张 A800 80GB 上配合 vLLM 0.21.0、MTP 与 fp8 KV cache 可达 110+ tok/s,支持 65536 上下文长度。该模型大幅削减安全过滤,建议仅用于研究或受控环境。

来源:Hugging Face · 新模型:abliterated · huggingface.co