Hugging Face · 新模型：uncensored·· 7 天前AI 评分18
A0Sh 发布 WizardLM-7B-Uncensored 的 Q2_K GGUF 转换版
A0Sh/WizardLM-7B-Uncensored-Q2_K-GGUF
来源与原文
Hugging Face · 新模型：uncensored
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/A0Sh/WizardLM-7B-Uncensored-Q2_K-GGUF
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
A0Sh 将 QuixiAI/WizardLM-7B-Uncensored 通过 llama.cpp 的 GGUF-my-repo 转换为 Q2_K 量化 GGUF 格式并发布在 Hugging Face。该模型可用 llama-cli 或 llama-server 直接加载，server 示例使用 -c 2048 上下文长度，并支持通过 LLAMA_CUDA=1 等编译选项在 Nvidia GPU 上运行。
来源：Hugging Face · 新模型：uncensored · huggingface.co