Hugging Face · 新模型:abliterated·· 22 天前AI 评分32
Huihui-Qwen3.8-27B-abliterated-AWQ-MTP:基于 Qwen3.8-27B 的去审查 AWQ 版本
spotapovadm/Huihui-Qwen3.8-27B-abliterated-AWQ-MTP
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/spotapovadm/Huihui-Qwen3.8-27B-abliterated-AWQ-MTP
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Hugging Face 上发布 Huihui-Qwen3.8-27B-abliterated-AWQ-MTP,这是用 abliteration 技术对 Qwen/Qwen3.8-27B 去除拒绝行为后的无审查版本。模型支持 AWQ Marlin kernel 和 MTP 投机解码,在单张 A800 80GB 上(vLLM 0.21.0、MTP 开启、fp8 KV cache)达到 110+ tok/s,支持 65536 上下文长度。发布方警告安全过滤大幅减弱,仅建议用于研究和受控环境。
来源:Hugging Face · 新模型:abliterated · huggingface.co