Hugging Face · 新模型:uncensored·· 13 天前精选AI 评分68
Launch80 发布 Swift-1.5-Qwen3.8-27B 全 INT4 无对齐烘焙版
Launch80/Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Launch80/Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Launch80 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked,将上游 ajgazin 的拒绝方向消融权重整体量化为 GPTQ INT4,lm_head 与 MTP draft 也压到 INT4,单卡 Intel Arc Pro B65 32 GB 可用原版 vLLM 服务 262,144 token 上下文。
推荐理由
原文给出拒绝率实测、困惑度与逐张量相对误差对比,读者可据此核验这个 INT4 去对齐版本的量化质量与解码速度。
来源:Hugging Face · 新模型:uncensored · huggingface.co