跳到正文
Hugging Face · 新模型:abliterated·· 19 天前AI 评分26

Qwen3-06B abliterated 版 GGUF 量化模型(Q8_0)上线 Hugging Face

3MPER0RR/Qwen3-06B-3MPER0RR-abliterated-Q8_0-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/3MPER0RR/Qwen3-06B-3MPER0RR-abliterated-Q8_0-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

3MPER0RR 在 Hugging Face 发布 Qwen3-06B 的 abliterated 版量化模型,采用 Q8_0 GGUF 格式。该模型可在 Transformers、llama.cpp、vLLM、SGLang、Ollama、LM Studio、Docker Model Runner 等多种工具中加载,llama.cpp 与 vLLM、SGLang 均支持启动 OpenAI 兼容 API 服务。

来源:Hugging Face · 新模型:abliterated · huggingface.co