Hugging Face · 新模型：abliterated·· 11 天前AI 评分26
Huihui-Qwen3-4B-Instruct-2507-abliterated 的 Q4_K_M GGUF 版本发布
Redshir4t/Huihui-Qwen3-4B-Instruct-2507-abliterated-Q4_K_M-GGUF
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Redshir4t/Huihui-Qwen3-4B-Instruct-2507-abliterated-Q4_K_M-GGUF
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Redshir4t 将 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 转换为 Q4_K_M 量化的 GGUF 格式并上传至 Hugging Face。该模型可通过 llama.cpp 的 llama-cli 或 llama-server 直接加载运行，支持通过 brew 安装，并可用 LLAMA_CUDA=1 等编译选项适配 Nvidia GPU。
来源：Hugging Face · 新模型：abliterated · huggingface.co