Hugging Face · 新模型:abliterated·· 4 天前AI 评分25
Sage-A1.5 Heretic Abliterated 的 EXL3 4.0bpw 量化版本发布
sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored-exl3-4.0bpw
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored-exl3-4.0bpw
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Hugging Face 上发布 Sage-A1.5 Heretic Abliterated 的 EXL3 4.0bpw 量化版本,由 exllamav3 1.6.4 的 convert.py 生成,decoder 约 4.05 bpw、lm_head 6 bit、MTP 4 bpw,视觉塔保持 bf16 未量化。目录约 19GB 含三个 safetensors shard,MTP 权重与预处理器配置从父模型 InternScience/Sage-A1.5 补齐,需 exllamav3 1.6.4 加载,可用 -mode qwen35 并开启 MTP draft。
来源:Hugging Face · 新模型:abliterated · huggingface.co