跳到正文
Hugging Face · 新模型:uncensored·· 1 小时前AI 评分18

Banany 发布 Llama-3.2-3B-Instruct-heretic-ablitered-uncensored 的 Q4_K_M GGUF 量化版

Banany/Llama-3.2-3B-Instruct-heretic-ablitered-uncensored-Q4_K_M-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Banany/Llama-3.2-3B-Instruct-heretic-ablitered-uncensored-Q4_K_M-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Banany 将 DavidAU/Llama-3.2-3B-Instruct-heretic-ablitered-uncensored 通过 llama.cpp 转换为 Q4_K_M 量化的 GGUF 格式并上架 Hugging Face。该模型可用 llama-cli 或 llama-server(-c 2048)直接运行,支持在 Mac 和 Linux 上通过 brew 安装 llama.cpp 调用,也可通过 LLAMA_CUDA=1 编译以在 Nvidia GPU 上推理。

来源:Hugging Face · 新模型:uncensored · huggingface.co