跳到正文
10月4日周日
  1. Hugging Face · 新模型:abliterated32

    Huihui-Qwen3.8-27B-abliterated-AWQ-MTP:基于 Qwen3.8-27B 的去审查 AWQ 版本

    Hugging Face 上发布 Huihui-Qwen3.8-27B-abliterated-AWQ-MTP,这是用 abliteration 技术对 Qwen/Qwen3.8-27B 去除拒绝行为后的无审查版本。模型支持 AWQ Marlin kernel 和 MTP 投机解码,在单张 A800 80GB 上(vLLM 0.21.0、MTP 开启、fp8 KV cache)达到 110+ tok/s,支持 65536 上下文长度。发布方警告安全过滤大幅减弱,仅建议用于研究和受控环境。

  2. Hugging Face · 新模型:abliterated53

    yuna1126 发布 gemma-4-E2B-Tema_Q-Abliterated 去对齐模型

    yuna1126 在 Hugging Face 发布基于 google/gemma-4-E2B-it 的 abliterated 去对齐版本,使用 Tema_Q-Abliterated v1.0.0(SCAPE 算法)从权重中消融拒绝方向。

    推荐理由:原文给出了拒绝率、KL 散度和 SCAPE 代理目标约 49 倍加速的实测数据,读者可以据此评估这个去对齐版本的代价与工具的可复用性。

  3. Hugging Face · 新模型:abliterated82

    BoldingBuilds 发布 Qwen3.8-27B Abliterated ThinkFix GGUF 无对齐版本

    BoldingBuilds 在 Hugging Face 发布 Qwen3.8-27B-Abliterated-ThinkFix-GGUF,在移除拒绝行为之外增加一处权重行编辑,使模型完成思考后更快给出答案。

    推荐理由:原文给出多种敏感提示词与代理任务的实测对照数据,可据此评估这个去对齐加推理修复版本的实际取舍。

  4. Hugging Face · 新模型:abliterated56

    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝方向向量与实测数据

    alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO 量化包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GGUF(逐字节复制并校验 SHA256),另附一个 480 KB 的拒绝方向向量文件,可在 Strata 引擎中运行时投影去除拒绝行为,权重保持原样。

    推荐理由:原文保留原始量化权重并给出拒绝率、KL 散度和解码速度的实测数据,读者可据此评估运行时去拒绝向量对输出的实际影响。

  5. Hugging Face · 新模型:abliterated80

    TechPrototyper 发布 Qwen3.8-27B GridBook 13GB 视觉版 abliterated 权重

    TechPrototyper 发布了基于 rdtand 的 GridBook 13GB 量化版 Qwen3.8-27B 的 abliterated 变体,通过将 BF16 消融供体权重移植进已有量化 checkpoint 并按原量化网格重编码,不重新量化,仅改动 1363 个张量中的 113 个。

    推荐理由:原文给出在量化格式内做消融的完整方法与拒绝率、工具调用前后对比,读者可据此判断这种不重新量化的去对齐做法是否可靠。

10月2日周五
  1. Hugging Face · 趋势模型68

    SC117 发布 Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF,144 张量移植保留原始量化

    SC117 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过对已量化 GGUF 做 144 个残差流投影张量的字节级移植实现去拒绝,不重算任何 GSQ 学到的量化值。IQ3_S 版经逐张量 blake2b 校验,1223 个张量中 1079 个与上游逐字节一致,decode 速度仅降 0.1%,四个量化档位体积仅比上游多 0.25 至 0.44 GB,行为抽查显示上游拒答的绕过付费墙请求该版本会详细回答。作者提示模型无内置安全护栏,需自行部署审核与访问控制。

    推荐理由:作者用逐张量 blake2b 校验和性能对照说明直接移植已量化张量做消融的代价,方法可复用到其他 GGUF 模型。

8月17日周一
  1. Hugging Face · 趋势模型59

    HauhauCS 发布 Qwen3.8-27B Aggressive 无对齐 GGUF 量化版并附带 FastMTP 加速方案

    HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化系列,实测拒绝率 0/465,保留文本、推理、Agent 及图像视频能力。全套量化提供 K_P 自定义档位,附带的 FastMTP 32K 加速 sidecar 相比无 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG,比内嵌 MTP 最高快 35.2%/21.1%,实测基于 RTX PRO 6000 Blackwell 96GB。需配套 llama.cpp 补丁,vision 需单独 BF16 projector,原生上下文 262,144 token,可扩展至 1,000,000。

    推荐理由:原文给出了0/465拒绝实测和完整量化档位的MTP加速对比数据,读者可据此判断去对齐程度和各档位实际推理速度。