跳到正文
Hugging Face · 新模型:abliterated·· 7 天前AI 评分20

mradermacher 发布 Huihui-Kolibri-1-BF16-abliterated GGUF 量化模型

mradermacher/Huihui-Kolibri-1-BF16-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/mradermacher/Huihui-Kolibri-1-BF16-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

mradermacher 在 Hugging Face 上提供 Huihui-Kolibri-1-BF16-abliterated 的 GGUF 量化版本,示例量化为 Q4_K_S。该模型可通过 llama.cpp 在本地运行,支持启动 OpenAI 兼容服务器或终端直接推理,并可在 Ollama、LM Studio、Jan、Docker Model Runner、Lemonade 等工具中使用。

来源:Hugging Face · 新模型:abliterated · huggingface.co