Hugging Face · 新模型：abliterated·· 1 小时前AI 评分23
mradermacher 发布 Flint-40B-A2.5B-abliterated GGUF 量化模型
mradermacher/Flint-40B-A2.5B-abliterated-GGUF
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/mradermacher/Flint-40B-A2.5B-abliterated-GGUF
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
mradermacher 在 Hugging Face 上提供 Flint-40B-A2.5B-abliterated 模型的 GGUF 量化版本，示例量化格式为 Q4_K_S。该模型可通过 llama.cpp 在本地运行，支持启动 OpenAI 兼容服务器或终端直接推理，也可用 Ollama、Docker Model Runner、Lemonade 等工具加载，并可接入 Pi、Hermes、OpenClaw 等智能体工具。
来源：Hugging Face · 新模型：abliterated · huggingface.co