Hugging Face · 新模型：abliterated·· 3 小时前AI 评分22
mradermacher 发布 Mellum2.1-12B-A2.5B-Thinking-abliterated-GGUF 量化模型
mradermacher/Mellum2.1-12B-A2.5B-Thinking-abliterated-GGUF
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/mradermacher/Mellum2.1-12B-A2.5B-Thinking-abliterated-GGUF
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
mradermacher 在 Hugging Face 上提供 Mellum2.1-12B-A2.5B-Thinking 的 abliterated 版 GGUF 量化模型，示例量化为 Q2_K。该模型可通过 llama.cpp 在本地运行，支持 llama-server 启动 OpenAI 兼容服务器和 llama-cli 直接推理，也可用 Ollama、Docker Model Runner、LM Studio、Jan 等工具加载，并可接入 Pi、Hermes、OpenClaw 等 Agent 工具。
来源：Hugging Face · 新模型：abliterated · huggingface.co