跳到正文
Hugging Face · 新模型:abliterated·· 19 天前AI 评分18

John2202 发布 Qwen3-1.7B-abliterated Q4_K_M GGUF 量化版模型

John2202/Qwen3-1.7B-abliterated-Q4_K_M-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/John2202/Qwen3-1.7B-abliterated-Q4_K_M-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

John2202 在 Hugging Face 发布 Qwen3-1.7B-abliterated 的 Q4_K_M GGUF 量化版本,由 mlabonne/Qwen3-1.7B-abliterated 通过 llama.cpp 转换而来。用户可通过 llama-cli 或 llama-server 命令直接加载使用,服务器模式默认 -c 2048 上下文。模型也可在 llama.cpp 仓库中按源码编译方式(支持 LLAMA_CUDA 等 GPU 加速编译选项)直接调用。

来源:Hugging Face · 新模型:abliterated · huggingface.co