Hugging Face · 新模型:uncensored·· 1 小时前精选AI 评分60
Sakura721 发布 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 的 GGUF Q4_K_M 量化版
Sakura721/DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic-GGUF
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Sakura721/DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Sakura721 将 xtools-at 的 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 转成 GGUF 并量化为 Q4_K_M,主模型 5.243 GiB,另附 F16 视觉投影器 mmproj 以保留图像与视频输入。上游链路为 Jackrong 的 DeepSeek-V4-Pro-Qwen3.5-9B(Qwen3.5-9B 的 SFT+RL 蒸馏)经 Heretic 任意秩消融去对齐,基础仓库报告拒绝率从 100/100 降到 3/100,KL 散度 0.0422。文件可在 llama.cpp b12182、LM Studio、llama-cpp-python 中使用,Ollama 目前只能加载纯文本部分。
推荐理由
原文给出了上游消融参数与拒绝率对比,并说明 Q4_K_M 量化与视觉投影器的取舍,可据此判断本地部署这个去对齐版本的实际代价。
来源:Hugging Face · 新模型:uncensored · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。