跳到正文
Hugging Face · 新模型:abliterated·· 2 小时前AI 评分32

Muse-Glimmer-30B-Abliterated-CyberDefend GGUF 量化版本发布

zapabobouj/Muse-Glimmer-30B-Abliterated-CyberDefend-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/zapabobouj/Muse-Glimmer-30B-Abliterated-CyberDefend-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

zapabobouj 发布 Muse-Glimmer-30B-Abliterated 的官方 GGUF 量化版本。该 30B 参数模型经 Bonsai 结构化层剪枝(34 层)实现推理吞吐 +17.8%、权重内存 -15.0%,并用 Spin(8) Triality 正交变换保护 Q2_K/Q3_K_L 等低比特量化的质量;模型的拒绝机制已完全移除,提供 Q8_0(约 31.8 GB)至 Q2_K(约 11.5 GB)共 6 档量化,均已上传,可用于安全测试与科学探索。

来源:Hugging Face · 新模型:abliterated · huggingface.co