Hugging Face · 新模型:uncensored·· 1 小时前AI 评分18
Banany 发布 Llama-3.2-3B-Instruct-heretic-ablitered-uncensored 的 Q4_K_M GGUF 量化版
Banany/Llama-3.2-3B-Instruct-heretic-ablitered-uncensored-Q4_K_M-GGUF
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Banany/Llama-3.2-3B-Instruct-heretic-ablitered-uncensored-Q4_K_M-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Banany 将 DavidAU/Llama-3.2-3B-Instruct-heretic-ablitered-uncensored 通过 llama.cpp 转换为 Q4_K_M 量化的 GGUF 格式并上架 Hugging Face。该模型可用 llama-cli 或 llama-server(-c 2048)直接运行,支持在 Mac 和 Linux 上通过 brew 安装 llama.cpp 调用,也可通过 LLAMA_CUDA=1 编译以在 Nvidia GPU 上推理。
来源:Hugging Face · 新模型:uncensored · huggingface.co