跳到正文
Hugging Face · 新模型:abliterated·· 19 天前AI 评分23

mradermacher 发布 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated 的 GGUF 静态量化版本

mradermacher/Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/mradermacher/Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

mradermacher 在 Hugging Face 发布 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated 的 GGUF 静态量化版本,提供从 Q2_K 到 f16 共 12 种规格,体积介于 0.4-1.1 GB,其中 Q4_K_S/Q4_K_M 被标注为快速且推荐,Q8_0 为最佳质量。weighted/imatrix 量化暂不可用,用户可通过 Community Discussion 提出请求。

来源:Hugging Face · 新模型:abliterated · huggingface.co