跳到正文
Hugging Face · 新模型:abliterated·· 5 天前AI 评分22

TristanUK 发布 onyx-qwen2.5-7b-abliterated-lora-GGUF 量化模型

TristanUK/onyx-qwen2.5-7b-abliterated-lora-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/TristanUK/onyx-qwen2.5-7b-abliterated-lora-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

TristanUK 在 Hugging Face 发布 abliterated 版 Qwen2.5 7B 的 GGUF 量化模型(Q4_K_M),提供去审查变体供本地推理使用。该模型可通过 llama.cpp 直接运行,支持 llama serve 启动 OpenAI 兼容本地服务器或命令行推理,也提供 Ollama(ollama run)、Docker Model Runner、Lemonade 等拉取运行方式。此外可接入 Pi、Hermes Agent、OpenClaw 等本地 Agent 工具,作为默认模型使用。

来源:Hugging Face · 新模型:abliterated · huggingface.co