Gptsn/Llama-3.2-3B-Instruct-uncensored-GGUF 量化版本发布
基于 unsloth/Llama-3.2-3B-Instruct 的去审查微调模型推出 GGUF 量化版本,abliteration 后 KL 散度仅 0.0265,测试中 100 次拒绝仅 4 次,并保留多语言能力。提供 Q4_K_M(2.02GB)、Q5_K_M(2.32GB)、Q8_0(3.42GB)和 f16(6.43GB)四种量化,可在 LM Studio 或 Ollama 中加载使用。