跳到正文
Hugging Face · 新模型:abliterated·· 3 小时前AI 评分42

huihui-ai 发布 DeepSeek-V4-Flash abliterated 去审查版 GGUF 量化模型

rax4901/Huihui-DeepSeek-V4-Flash-abliterated-ds4-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/rax4901/Huihui-DeepSeek-V4-Flash-abliterated-ds4-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

huihui-ai 基于 DeepSeek-V4-Flash 制作 abliterated 去审查版本,提供 Q2、IQ2_XXS、Q2_K、Q4_K 等 GGUF 量化,专为 DS4 与 llama.cpp 推理引擎优化,Q2 版仍有一定拒绝率。模型在 RTX 6000 Pro(96GB)测试环境下推理速度超过 35 tokens/秒,128GB Mac 建议用 Q2、≥256GB 内存机器可用 Q4_K,并可搭配 MTP 文件实现投机解码,采用 MIT 许可证开源。

来源:Hugging Face · 新模型:abliterated · huggingface.co