跳到正文
Hugging Face · 新模型:abliterated·· 12 天前AI 评分40

Qwen3.5-9B-Abliterated-V2-GGUF 量化版发布,附 Xiaomi MiMo 效率对比评测

HALO117MC/Qwen3.5-9B-Abliterated-V2-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/HALO117MC/Qwen3.5-9B-Abliterated-V2-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

HALO117MC 发布 Qwen3.5-9B-Abliterated-V2 的 Q8_0 与 BF16 GGUF 官方量化版,面向消费级 GPU 本地推理,支持 Ollama v0.40.4 与 llama.cpp v0.6.0。在 RTX 5080 Laptop GPU 上测试,原版与 Abliterated V2 的 GSM8K 精度均为 90%(9/10),后者平均每任务耗时 58.62 秒;Xiaomi MiMo-V2.6-Distill 同样 90% 精度但平均仅 7.46 秒,速度快 7.4 倍,源于其思维链更精简。

来源:Hugging Face · 新模型:abliterated · huggingface.co