Hugging Face · 新模型：abliterated·· 2 天前AI 评分18
Qwen2.5-7B-Instruct-abliterated-v2 Q4_K_M GGUF 量化版模型使用指南
Rasist228/Qwen2.5-7B-Instruct-abliterated-v2-Q4_K_M-GGUF
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Rasist228/Qwen2.5-7B-Instruct-abliterated-v2-Q4_K_M-GGUF
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Hugging Face 上架 Rasist228 发布的 Qwen2.5-7B-Instruct-abliterated-v2 的 Q4_K_M GGUF 量化版本。该模型可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种工具加载运行，llama.cpp 与 vLLM、SGLang 均支持启动 OpenAI 兼容 API 的本地服务器，也可在 LM Studio、Jan、Pi、Hermes Agent 等应用中使用。
来源：Hugging Face · 新模型：abliterated · huggingface.co