跳到正文
Hugging Face · 新模型:uncensored·· 13 天前精选AI 评分68

Launch80 发布 Swift-1.5-Qwen3.8-27B 全 INT4 无对齐烘焙版

Launch80/Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Launch80/Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Launch80 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked,将上游 ajgazin 的拒绝方向消融权重整体量化为 GPTQ INT4,lm_head 与 MTP draft 也压到 INT4,单卡 Intel Arc Pro B65 32 GB 可用原版 vLLM 服务 262,144 token 上下文。

推荐理由

原文给出拒绝率实测、困惑度与逐张量相对误差对比,读者可据此核验这个 INT4 去对齐版本的量化质量与解码速度。

来源:Hugging Face · 新模型:uncensored · huggingface.co