跳到正文
Hugging Face · 新模型:uncensored·· 20 天前AI 评分28

mradermacher/qwen3.5-9b-uncensored-GGUF 模型使用指南

mradermacher/qwen3.5-9b-uncensored-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/mradermacher/qwen3.5-9b-uncensored-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 上 mradermacher/qwen3.5-9b-uncensored-GGUF 模型页面给出多框架使用方法,涵盖 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等工具,示例量化版本为 Q4_K_M。llama.cpp 可启动 OpenAI 兼容本地服务器并支持终端直接推理,vLLM 与 SGLang 均提供 OpenAI 兼容 API 调用方式。

来源:Hugging Face · 新模型:uncensored · huggingface.co