跳到正文
热点事件持续更新

zapabobouj 发布 Muse-Glimmer-30B-Abliterated GGUF 量化版

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

zapabobouj 发布了 Muse-Glimmer-30B-Abliterated 的官方 GGUF 量化版本,提供 Q8_0(约 31.8 GB)至 Q2_K(约 11.5 GB)共 6 档量化,均已上传。据其介绍,该 30B 模型经 Bonsai 结构化层剪枝(34 层)实现推理吞吐 +17.8%、权重内存 -15.0%,并用 Spin(8) Triality 正交变换保护 Q2_K/Q3_K_L 等低比特量化的质量,模型的拒绝机制已完全移除。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. Hugging Face · 新模型:abliterated
    Muse-Glimmer-30B-Abliterated-CyberDefend GGUF 量化版本发布

    zapabobouj 发布 Muse-Glimmer-30B-Abliterated 的官方 GGUF 量化版本。该 30B 参数模型经 Bonsai 结构化层剪枝(34 层)实现推理吞吐 +17.8%、权重内存 -15.0%,并用 Spin(8) Triality 正交变换保护 Q2_K/Q3_K_L 等低比特量化的质量;模型的拒绝机制已完全移除,提供 Q8_0(约 31.8 GB)至 Q2_K(约 11.5 GB)共 6 档量化,均已上传,可用于安全测试与科学探索。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。