Hugging Face · 新模型:abliterated·· 9 天前AI 评分24
RuCoverLAB/deepseek-r1-8b-abliterated-q4 的 Q4_K_M GGUF 版本发布
RuCoverLAB/deepseek-r1-8b-abliterated-q4-Q4_K_M-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/RuCoverLAB/deepseek-r1-8b-abliterated-q4-Q4_K_M-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
RuCoverLAB/deepseek-r1-8b-abliterated-q4 已通过 llama.cpp 的 GGUF-my-repo 转换为 Q4_K_M 量化 GGUF 格式并上架 Hugging Face。用户可通过 llama-cli 或 llama-server 直接加载该模型运行推理,server 模式示例使用 -c 2048 上下文长度,也可按 llama.cpp 仓库步骤自行编译使用。
来源:Hugging Face · 新模型:abliterated · huggingface.co