Hugging Face · 新模型:abliterated·· 3 小时前AI 评分42
huihui-ai 发布 DeepSeek-V4-Flash abliterated 去审查版 GGUF 量化模型
rax4901/Huihui-DeepSeek-V4-Flash-abliterated-ds4-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/rax4901/Huihui-DeepSeek-V4-Flash-abliterated-ds4-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
huihui-ai 基于 DeepSeek-V4-Flash 制作 abliterated 去审查版本,提供 Q2、IQ2_XXS、Q2_K、Q4_K 等 GGUF 量化,专为 DS4 与 llama.cpp 推理引擎优化,Q2 版仍有一定拒绝率。模型在 RTX 6000 Pro(96GB)测试环境下推理速度超过 35 tokens/秒,128GB Mac 建议用 Q2、≥256GB 内存机器可用 Q4_K,并可搭配 MTP 文件实现投机解码,采用 MIT 许可证开源。
来源:Hugging Face · 新模型:abliterated · huggingface.co