跳到正文
10月19日周一
  1. Hugging Face · 新模型:abliterated18

    voxprint-mirror-huihui-qwen3-vl-4b-instruct-abliterated 镜像仓库发布

    Mitroshenkov87 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3-VL-4B-Instruct-abliterated(commit ce72a7c)的未修改备份镜像,该模型是基于 Qwen/Qwen3-VL-4B-Instruct 的指令微调视觉语言描述模型。镜像文件与原仓库逐字节一致,采用 Apache-2.0 许可,作为 Voxprint 模型下载器的备用下载源。

  2. Hugging Face · 新模型:abliterated24

    Qwen3.8-Flash-Next 125B 的 Finch 2-bit abliterated 版本发布(含视觉权重)

    Hugging Face 上架了 abliterated 版 Qwen3.8-Flash-Next 125B 的 .finch 安装包,供 out-of-core FinchMoE 引擎使用,将路由专家重打包为 2-bit affine 量化,并原样携带源模型的视觉塔(333 个 BF16 张量,约 0.836 GiB)。总声明大小约 74.70 GB,常驻权重 3.88 GB,默认 16 个 expert-cache 槽位下专家缓存约 1.10 GiB,可运行于 12–16 GB 设备,8 GB iPhone 无法运行;当前文本生成可用,视觉运行时尚未支持。许可证为 Qwen Community License 1.0。

  3. Hugging Face · 新模型:uncensored52

    GLM-5.3-Flash-Uncensored 3.0bpw EXL3 量化包发布,附实测对比数据

    androidli 发布 GLM-5.3-Flash-Uncensored 的 EXL3 3.0bpw 量化包(mcg 码本),仅对每层 288 个 routed experts 量化,非路由张量保持源生精度,权重共 152 GB,面向 2× DGX Spark (GB10) 经 CX7 直连以 TP=2 运行。实测 EvalPlus 542 题 86.3%、GSM8K 98.0%、HumanEval 98.2%,与 Mia-AiLab 自报的 4bpw 版差异在噪声范围内;调优配置下 KV 池 3,891,200 tokens,前向延迟平均快约 15%。

    推荐理由:作者实测了 3.0bpw 量化版与 4bpw 版的质量、KV 池和延迟对比,并标注了各数字对应的复现配置。

  4. Hugging Face · 新模型:abliterated38

    Timamar 发布 B.R.O-abliterated-27B:基于 Qwen3.5-27B 的无审查网络安全大语言模型

    Timamar 在 Hugging Face 发布 B.R.O-abliterated-27B,一个 27B 无审查网络安全大语言模型,基于 Qwen3.5-27B,经 refusal-direction 正交化去除审查后,用 rank-16 LoRA 在进攻安全、红队、逆向工程和二进制漏洞利用数据上训练并融合进基座权重。模型为 int4 量化,约 20.6 GB,上下文窗口 16,384 tokens,可通过 Ollama、llama.cpp 或 MLX 运行。

  5. Hugging Face · 新模型:abliterated60

    dealignai 发布 GLM-5.3 无对齐 FP8 权重版 v2

    dealignai 发布 GLM-5.3-ABLITERATED-FP8 v2,对 GLM-5.3-FP8 做权重级去审查,仅修改 bf16 residual writer 张量、不动 FP8 专家,可在原版 vLLM 上以 Hopper 原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HB-320 上 GARBAGE 降为 0,非版权危害面 TRUE_COMPLY 达 91.7%(off),代价是整体 TRUE_COMPLY 下降约 4pp;MMLU 87.43%,较基线 +1.85pp。附 TP8 H200 部署配置与 reasoning_effort 只认 low/high 等运行注意事项。

    推荐理由:发布方给出了 MMLU 与 HarmBench-320 的前后对照数据,v2 版在消除推理循环的同时保留了约 87% 的 MMLU 水平。

  6. Hugging Face · 新模型:abliterated50

    RTX 3080 20 GB 实测 Qwen3.8-27B 两个 abliterated 量化版的 MTP 速度与困惑度对比

    作者在单张 RTX 3080 20 GB 上用 llama.cpp 实测了 Qwen3.8-27B 的 Huihui 与 Heretic RVN 两个 abliterated 量化版本,仓库不含模型权重。结果显示 RVN IQ4_XS 在 MTP 下最快(代码 69.4 tok/s、散文 58.2 tok/s,比 Huihui 快约 5–7%),德语困惑度略低,通过 88.6K 上下文与全部 6 项工具调用测试,但多占 1.1 GB 显存导致 n-max 3 无法启动;MTP 草稿深度 n-max 2 是综合最优设置,MTP 对 prefill 无帮助反而约损失 5%。

  7. Hugging Face · 新模型:abliterated52

    huginnfork 发布 Qwen3.8-Flash-Next-FLARE-Abliterated 去对齐版

    huginnfork 发布基于 local-inference-lab/Qwen3.8-Flash-Next-FLARE 的 abliterated 版本,对 25,188 个张量中的 24,576 个做了拒绝方向编辑,属于不完整编辑。在 16 条提示词、协议 A(关闭思考)下,未编辑母模型拒绝率 100%,该版本为 18.8%,完整参考版为 0%;作者提醒 n=16 区间较宽,残余拒绝来自未编辑的 612 个注意力、共享专家和嵌入张量。

    推荐理由:原文给出拒绝率实测和未编辑张量清单,读者可以据此判断这个不完整消融版本到底去掉了多少对齐。

  8. Hugging Face · 新模型:uncensored68

    Qwen3.8-Flash-Next-Uncensored BF16 消融版发布,拒绝率降至接近零

    Lygodactylus 在 Hugging Face 发布 Qwen/Qwen3.8-Flash-Next 的 abliterated 去对齐 BF16 全精度权重,按 Arditi et al. (2024) 方法从残差流中正交化移除拒绝方向,共编辑 149 个残差写入张量,保留完整视觉与视频塔(333 个 visual.* 张量)和 MTP 头。

    推荐理由:原文给出按 Arditi et al. 2024 方法消融拒绝方向后的拒绝率与能力对比数据,读者可据此评估这个去对齐版本的实际代价。

10月18日周日
  1. Hugging Face · 新模型:uncensored36

    Baekpica 发布 DeepSeek-V4.1-Flash-1017-UNCENSORED-VQ-GGUF 量化版

    Baekpica 将 dealignai 的 DeepSeek-V4.1-Flash-1017-UNCENSORED FP8 权重按 YoungAi 的 vq8sh14-q4k-mtpnative 配方原样转换为 VQ GGUF,基础文件约 113.6 GB,面向 128 GB DGX Spark,上下文保持原生 1,048,576 tokens。该量化约 1.6 bits per routed-expert weight,同配方在 V4.1 Flash 上与 FP8 模型 next token 一致率为 69–79%,质量与去审查行为可能下降。目标运行时为 ds4-dfm-rs,1017 Engram 表(2 × 101.5 GB)需从本地 SSD 读取。

  2. Hugging Face · 新模型:uncensored67

    candor-lab 发布 K2-Horizon-7B 去对齐版 GGUF,拒绝率从 287 降至 3

    candor-lab 用自研权重编辑工具 Candor 移除了 IFM 的 K2-Horizon-7B 的拒绝行为,以单个 Q4_K_M GGUF(5.59 GB)发布在 Hugging Face,Apache 2.0 协议。288 个 StrongREJECT 有害提示的拒绝数从原版 287 降到 3,300 个 Alpaca 无害提示拒绝数从 2 降到 0,KL 散度 0.052,GSM8K 正确数 1222 对 1209,均在噪声范围内。编辑为 rank-3 修改,覆盖 61 个输出矩阵;搜索的 313 次试验和最终评测均在 llama.cpp 中开启 thinking、reasoning effort high 下完成,前两名候选曾因数学成绩下降或思考预算耗尽被淘汰。

    推荐理由:原文给出拒绝率、KL 散度和 GSM8K 的前后对照数据,读者可以据此判断这次权重编辑到底去掉了什么、损失了多少。

  3. Hugging Face · 新模型:abliterated68

    Piecrust 发布 GLM-5.3-Flash-FP4-Abliterated 去对齐版本

    Piecrust 将 Huihui 的拒绝方向消融编辑重新应用到 NVIDIA 的 GLM-5.3-Flash-FP4-Local 权重上,发布去对齐版本。仅改动 15 至 36 层的 44 个矩阵(self_attn.o_proj 与 mlp.shared_experts.down_proj),其余权重与原检查点逐字节一致;因 NVIDIA 做过量化感知蒸馏,编辑以 rank-1 方式重算而非直接套用 delta,重编码后保留 91-95% 编辑强度。实测在 2× RTX PRO 6000 Blackwell 上拒绝探针 12 问 0 拒绝(原版拒绝 2 次),GSM8K 94/96 对 95/96,解码速度基本持平;需 NVIDIA 列出的容器环境,上游 vLLM 暂不支持。

    推荐理由:原文给出逐字节校验、拒绝探针前后对比和速度质量数据,可据此判断这个去对齐版本改了什么、代价多大。

  4. Hugging Face · 新模型:abliterated54

    Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GPTQ Int4 量化版发布

    alpha2beta 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GPTQ Int4 W4A16 量化版(sym、group-128),面向 vLLM XPU 后端并在 Intel Arc Pro B60 上验证,截至 2026-10-18 是该模型在 Hub 上唯一的 GPTQ 量化。实测 decode 40.183 tok/s、TTFT 0.460 s,MTP 投机解码 k=4 时相对关闭草稿提速 2.08 倍;12,288 token 长上下文下 decode 从 40.200 降至 37.315 tok/s(-7.2%)。

    推荐理由:作者给出了在 Intel Arc Pro B60 上的实测吞吐、长上下文衰减和 16 题质量分,并记录了校准偏差与评测陷阱,便于复现和横向对比。

  5. Hugging Face · 新模型:uncensored25

    axiomofmind 发布 Moss-image-nsfw-uncensored-lora:基于 MOSS-Image-SFT 的去审查 LoRA

    axiomofmind 在 Hugging Face 上发布 Moss-image-nsfw-uncensored-lora,一个基于 OpenMOSS-Team/MOSS-Image-SFT 的去审查 LoRA 权重,可通过 Diffusers 的 load_lora_weights 加载使用,触发词为 moss_xvstyle。该仓库被标记为含敏感内容,同时提供 Google Colab、Kaggle 及 Draw Things、DiffusionBee 等本地应用的使用指引。

  6. Hugging Face · 新模型:abliterated32

    edp1096/Huihui-GLM-5.3-Flash-abliterated-FP4-Local 发布

    Hugging Face 用户 edp1096 发布 GLM-5.3-Flash 的非官方 NVIDIA FP4-Local 衍生版本,将 Huihui Q8 abliterated 权重的差量应用到 nvidia/GLM-5.3-Flash-FP4-Local 基座。更新了第 15–36 层的 44 个 attention-output/shared-expert-down 矩阵和 22 个 scale 张量,其余张量保留,无需额外 QAD 训练。运行需两台 DGX Sparks(TP2)和 B12X vLLM;42 个权重文件全部校验通过,8/8 冒烟测试通过,最长实测输入 64,481 tokens。

  7. Hugging Face · 新模型:uncensored47

    Qwen3.8-Flash-Next-Uncensored NVFP4 量化版发布,支持 2× GB10 部署与 1M 上下文

    Hugging Face 上发布 Qwen3.8-Flash-Next-Uncensored-NVFP4 的 GB10 构建镜像(Apache-2.0),可在 2× DGX Spark(GB10,TP=2)上用 vLLM 部署,支持 1M 上下文(YaRN ×4,max_position_embeddings 1048576),KV 池 3.76M tokens。实测对比 dev461 构建:prefill 8k–131k 提升 9–12.5%(约 3.7k tok/s),1M token TTFT 从 411s 降至 365s,KV 容量 ×1.95,质量 97.75% top-1 一致、NLL +0.019%。

  8. Hugging Face · 新模型:abliterated20

    Huihui-Ornith-1.5-35B-A3B-abliterated 重打包版本上架 Hugging Face,适配 Tiiny 设备

    lafintiger 在 Hugging Face 上传了 huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated 的重标注副本,权重未修改,仅将 base_model 标注改为同架构的 Qwen/Qwen3.6-35B-A3B,以便在 Tiiny 设备上导入。原模型是通过 abliteration 移除拒绝行为的无审查版本,仅对第 11 至 29 层做了消融,许可与署名归原作者。

  9. Hugging Face · 新模型:abliterated74

    Qwen3.8-27B 去拒绝消融版 GGUF 量化发布,附各档量化实测对比

    vedevpatel 发布 rajaykumar12959/qwen3.8-27b-abliterated 的 imatrix GGUF 量化,该模型移除了拒绝行为,可回答原版 Qwen3.8 拒答的请求,目标在 16 GB 显存上用 llama.cpp 运行。每个量化均与 BF16 原版对比:MMLU-Pro(4200 题、5-shot、thinking off)差异均在 95% 置信区间内不显著,BF16 为 79.60%;WikiText-2 KL 散度显示 IQ3_M 漂移比 4-bit 量化高 3.3–3.8 倍。

    推荐理由:作者对每个量化版本都给出了与 BF16 原版的 MMLU-Pro 和 KL 散度对比,还实测了 16 GB 显存下的上下文与速度表现。

  10. Hugging Face · 新模型:abliterated80

    mrfakename 发布 DeepSeek-V4.1-Flash-1017 去对齐版

    mrfakename 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 版本,用方向性消融移除拒绝行为。chat 和 think 模式沿不同方向拒绝,因此移除 rank-2 拒绝子空间,逐层测量方向并投影出 40 个主层的残差流写入,各层强度由多目标搜索确定。Q8_0 GGUF 贪心解码下,chat 拒绝率从 97/100 降至 4/100,think 模式推理头拒绝从 98/100 降至 9/100,harmless 首词 KL 为 0.067;路由专家、嵌入、Engram 表和 DSpark/MTP 层与原版逐位一致,另提供 abliteration-lora.gguf 和 abliteration-edit.npz。

    推荐理由:原文给出rank-2拒绝子空间的消融方法和拒绝率前后对比数据,读者可据此判断这个去对齐版本实际去掉了多少。

  11. Hugging Face · 新模型:abliterated66

    distributedcognition 发布 Mellum2.1-12B-A2.5B-Thinking 的 abliterated 去对齐版本

    distributedcognition 在 Hugging Face 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated 版本,用投影式 writer 级消融从权重中移除拒绝方向,gated alpha 0.8 下 104 条有害提示的 judge 拒绝从 12 降到 5,MMLU-14k 仅降 0.05pp。发布包含逐层拒绝方向文件(refusal_directions.pt、dirs.npz)供任意强度重消融,完整评测原始数据在 eval-results/,GGUF Q8_0 量化可在 llama.cpp、LM Studio、Ollama、Jan 运行,Apache 2.0 许可。

    推荐理由:原文给出消融方法细节和拒绝率、MMLU 前后对比数据,读者可据此判断这个去对齐版本的实际代价。

  12. Hugging Face · 新模型:uncensored60

    sky3c 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版,ARC-C 达 735

    sky3c 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,用 Heretic v1.2.0 的 ARA 方法去审查,8 bit 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。模型将思考 token 减至原版的 1/2 到 1/10,8 bit ARC-C 735、ARC-E 882,4 bit ARC-C 719,作者称在全部 7 项基准上超过原版 Qwen3.8-27B。提供常规与 MTP 两种 GGUF 量化,Q4_K_S 下常规版约 75 t/s、MTP 版可超 90 t/s(5090 实测),支持 256k 上下文与视觉(需另下 mmproj 文件),工具调用建议 Q4_K_M 以上量化。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》

  13. Hugging Face · 新模型:abliterated38

    Xing4.0-29B-A4B APEX-I-MiniPlus-V2.1 Abliterated GGUF 量化发布

    Hugging Face 上发布 Xing4.0-29B-A4B 的 Abliterated 版 GGUF 量化,基于 huihui-ai/Huihui-Xing4.0-29B-A4B-abliterated,采用逐 tensor 混合精度布局,文件 13.76 GB(3.42 BPW),WikiText-2 PPL 7.7238,较 BF16 源(7.3060)仅上升 5.71%,达 Q5_K_M 级质量。该模型为 29B 总参数、每 token 约 4B 激活的 MoE 架构,含 mHC、MLA 与 MTP,原生 256K 上下文,可扩展至 512K,适合消费级 GPU 与 RAM/GPU 混合部署。

  14. Hugging Face · 新模型:abliterated62

    koldfrontier 发布 Swift1.5-Qwen3.8-Flash-Next 的全量 abliterated 去对齐版本

    koldfrontier 在 Hugging Face 发布 ukisai/Swift1.5-Qwen3.8-Flash-Next 的 abliterated 衍生版,对全部 48 层共 24,720 个组件逐权重移除拒绝方向,无训练、无新数据。实测显示未授权框架下的保护性拒绝从 85% 降至 69%,有害请求服从率从 91.0% 升至 94.5%,良性提示的 KL 散度仅 0.0057,但 8 项能力探针丢了 3 项;方向捕获依赖 thinking 开启的提示模式,enable_thinking=False 时有害服从率仅 2.5%。作者定位其为安全研究产物而非安全对齐模型,数字为单模型案例研究。

    推荐理由:原文给出逐组件消融方法与消融前后的拒绝率、KL 散度对照数据,可据此判断这次去对齐实际改变了什么、损失了多少能力。

  15. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 无审查版 GGUF 量化发布

    NeverWantedJr 基于 Qwen/Qwen-Image-2.1 上游权重发布无审查版 GGUF 量化文件,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)多种规格,推荐 Q4_K_M(4.60 GB)兼顾体积与质量。该版本无内置安全检查器,可直接生成成人及 NSFW 内容,配套 qwen3vl_8b 文本编码器与 VAE 文件,通过 ComfyUI 与 ComfyUI-GGUF 本地运行,文本编码器卸载到内存可节省 9–17 GB 显存。

10月17日周六
  1. Hugging Face · 新模型:abliterated36

    humanizer-abliterated 11.96B 模型的 FP8-DYNAMIC 量化版发布

    moeshawky 发布 distributedcognition/humanizer-abliterated(11.96B 参数,Gemma4UnifiedForConditionalGeneration 架构)的 FP8-DYNAMIC 量化版,体积 13.02 GB,为 BF16 原版的 54.4%,仅对 328 个语言模型 linear 层做 E4M3 权重与动态激活量化,嵌入、lm_head 及视觉/音频模块保持 BF16。该版本经结构验证可运行,可在 vLLM、SGLang 或 Transformers 中直接加载,但未做 benchmark,无 perplexity 或吞吐数据。许可证为 apache-2.0,需遵守上游基础模型的附加条款。

  2. Hugging Face · 新模型:abliterated34

    humanizer-abliterated INT8 W8A8 量化版发布:11.96B 模型体积降至 BF16 的 54%

    moeshawky 发布 distributedcognition/humanizer-abliterated 的 INT8 W8A8 动态量化版,基于 llmcompressor 对 11.96B 参数模型中的 328 个语言模型线性层做 8-bit 量化,体积从 23.92 GB 降至 13.02 GB(54.4%),embedding 与 lm_head 保持 BF16。实测 INT8 权重 SNR 约 39.9 dB,logits 分布与 BF16 源一致;未做 MMLU 重评与吞吐测试。模型可直接在 vLLM、SGLang 或 Transformers 中加载,采用 apache-2.0 许可。

  3. Hugging Face · 新模型:abliterated33

    Hemmingway-1-27B-abliterated FP8-DYNAMIC 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 FP8-DYNAMIC 8-bit 量化版,基于 27.32B 参数的 BF16 原模型,体积从 54.64 GB 降至 30.30 GB(55.5%)。仅量化语言模型解码器内 496 个 linear 层权重(F8_E4M3、per-channel 对称),激活为 per-token 动态量化,lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 FP8 权重 SNR 约 31.6 dB,可在 vLLM、SGLang 或 Transformers 直接加载,未做 benchmark。

  4. Hugging Face · 新模型:abliterated28

    Hemmingway-1-27B-abliterated 的 INT8 W8A8 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 INT8 W8A8 动态量化版,基于 27.32B 参数的 BF16 原模型,体积从 54.64 GB 降至 30.30 GB(55.5%),仅量化语言模型解码器中的 496 个 linear 层,lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 INT8 权重 SNR 约 39.6–40.8 dB,logits 分布接近原模型;可直接在 vLLM、SGLang 或 Transformers 中加载,尚未做 benchmark、吞吐或消融鲁棒性测试,许可证为 apache-2.0。

  5. Hugging Face · 新模型:abliterated20

    Sindexter/qwen2.5-7b-abliterated-gguf 模型在 Hugging Face 上提供 llama.cpp 等多种本地运行方式

    Hugging Face 上线 Sindexter/qwen2.5-7b-abliterated-gguf 模型页面,提供 Q3_K_M 量化版本。用户可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或终端直接推理,也支持 Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具运行,并可接入 Pi、Hermes、OpenClaw 等 Agent 使用。