跳到正文
我的
Hugging Face · 新模型:uncensored·· 1 小时前精选AI 评分60

Sakura721 发布 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 的 GGUF Q4_K_M 量化版

Sakura721/DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Sakura721/DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Sakura721 将 xtools-at 的 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 转成 GGUF 并量化为 Q4_K_M,主模型 5.243 GiB,另附 F16 视觉投影器 mmproj 以保留图像与视频输入。上游链路为 Jackrong 的 DeepSeek-V4-Pro-Qwen3.5-9B(Qwen3.5-9B 的 SFT+RL 蒸馏)经 Heretic 任意秩消融去对齐,基础仓库报告拒绝率从 100/100 降到 3/100,KL 散度 0.0422。文件可在 llama.cpp b12182、LM Studio、llama-cpp-python 中使用,Ollama 目前只能加载纯文本部分。

推荐理由

原文给出了上游消融参数与拒绝率对比,并说明 Q4_K_M 量化与视觉投影器的取舍,可据此判断本地部署这个去对齐版本的实际代价。

来源:Hugging Face · 新模型:uncensored · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。