Hugging Face · 新模型:abliterated·· 5 天前AI 评分22
TristanUK 发布 onyx-qwen2.5-7b-abliterated-lora-GGUF 量化模型
TristanUK/onyx-qwen2.5-7b-abliterated-lora-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/TristanUK/onyx-qwen2.5-7b-abliterated-lora-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
TristanUK 在 Hugging Face 发布 abliterated 版 Qwen2.5 7B 的 GGUF 量化模型(Q4_K_M),提供去审查变体供本地推理使用。该模型可通过 llama.cpp 直接运行,支持 llama serve 启动 OpenAI 兼容本地服务器或命令行推理,也提供 Ollama(ollama run)、Docker Model Runner、Lemonade 等拉取运行方式。此外可接入 Pi、Hermes Agent、OpenClaw 等本地 Agent 工具,作为默认模型使用。
来源:Hugging Face · 新模型:abliterated · huggingface.co