跳到正文
热点事件历史事件

LoRAForge发布Huihui Qwen3.6 abliterated rank-1适配器

1 篇报道1 个报道来源13 天前更新

先了解这件事

AI 综述

LoRAForge 发布 huihui-qwen3.6-35b-a3b-abliterated-r1 适配器,这是从 huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated 的 BF16 safetensors 中提取的 rank 1 未量化 checkpoint delta 适配器,覆盖 80 个普通模块与 40 个路由专家参数组共 10,320 个矩阵,FP32 因子合计 106.287 MB,保留活跃 delta 能量 99.569570%。 使用上有若干条件:如上游基座或源 tokenizer 要求需先通过 Hugging Face 认证;需使用支持 MoE 专家 target_parameters 的 PEFT 版本;父模型 BF16 权重约需 72 GB,另加运行时内存。LoRAForge 称该项目仅为加载与短生成冒烟测试,并非全面的能力、拒答、多模态或 MTP 基准。

AI 根据报道生成 · 11 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. Hugging Face · 新模型:abliterated
    LoRAForge 发布 huihui-qwen3.6-35b-a3b-abliterated-r1 适配器

    LoRAForge 发布 huihui-qwen3.6-35b-a3b-abliterated-r1,这是从 huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated 的 BF16 safetensors 中提取的 rank 1 未量化 checkpoint delta 适配器,覆盖 80 个普通模块与 40 个路由专家参数组共 10,320 个矩阵,FP32 因子合计 106.287 MB,保留活跃 delta 能量 99.569570%。