跳到正文
今天10月27日周二16 条
  1. Hugging Face · 新模型:abliterated74

    DeepSeek-V4-Flash-0731 去对齐 v2 LoRA 适配器发布,拒绝率最低降至 3.57%

    putao886 发布 DeepSeek-V4-Flash-0731(284B 总参数/13B 激活 MoE,MIT 许可)的 abliterated v2 rank-1 LoRA 适配器,用 heretic-gguf 在量化 GGUF 权重上直接运行 Heretic 的 Optuna 优化方向消融。四个适配器均 Pareto 最优:t265 拒绝率 8.57%(12/140)、KL 0.0651,t264 拒绝率 3.57%(5/140)、KL 0.1399,在 140 条有害提示词评测集上每个拒绝/KL 权衡点都优于 v1(v1 为 14.29%)。

    推荐理由:原文给出四个 LoRA 适配器的拒绝率与 KL 散度实测数据,v2 在每个权衡点都优于 v1,读者可按需选择去对齐强度。

  2. arXiv · cs.AI59

    ThinkBit 提出面向推理保持的标量 2-bit 量化框架,Qwen3-1.7B 上 MATH-500 达 73.0

    ThinkBit 是一个严格标量的 2-bit 量化框架,用整数码字乘 bfloat16 组共享尺度表示权重,按敏感性给每层分配三值/2-bit/3-bit 位宽,经逐层 Gumbel-softmax 码字搜索、知识蒸馏尺度再校准和短程 QAT 保留推理能力。在 Qwen3-1.7B 上,再校准检查点 MATH-500 得 46.7,高于同数据训练的 EfficientQAT 的 30.0;QAT 后达 73.0;0.52 GB 的体积小于该模型所有已发布 2-bit GGUF 且 MATH-500 更准。扩展到 14B 时 3.74 GB 模型得 94.8,bfloat16 的 29.5 GB 模型为 97.5。论文地址 https://arxiv.org/abs/2610.34886v1

    推荐理由:论文用敏感性分层、尺度再校准和短程 QAT 做 2-bit 推理模型量化,给出与 EfficientQAT 的 MATH-500 对比数据可参考。

  3. Hugging Face · 新模型:uncensored19

    MishraNepali Dirty-Muse-Writer-v01 Uncensored Erotica NSFW Q2_K 量化模型上线 Hugging Face

    Hugging Face 上架 MishraNepali/Dirty-Muse-Writer-v01-Uncensored-Erotica-NSFW-Q2_K,一个 Q2_K 量化的无审查情色/NSFW 写作模型。页面给出 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种本地运行方式,支持启动 OpenAI 兼容 API 服务器或在终端直接推理。

  4. Hugging Face · 新模型:uncensored16

    DeepSeek-V4-Flash-Vision-Uncensored exl3 2.5bpw 量化版(52B 参数)上线 Hugging Face

    Hugging Face 上架了 avar6 发布的 DeepSeek-V4-Flash-Vision-Uncensored 的 exl3 2.5bpw 量化版本,模型大小为 52B 参数,支持 BF16、F16、I16、F32、I64 等张量类型,以 Safetensors 格式提供。该模型目前没有模型卡,也未部署到任何 Inference Provider,需自行下载使用。

  5. Hugging Face · 新模型:abliterated30

    Huihui-Ornith-1.5-35B-A3B-abliterated MTPLX 混合 8/4-bit FP16 量化版发布

    基于 huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated 制作的 MTPLX 混合 8/4-bit FP16 量化版,去除第 11–29 层拒绝行为,采用 4-bit affine(group 32)量化 MoE 专家、8-bit(group 64)量化注意力投影,主干 dtype fp16 并带 MTP sidecar。在 Apple Silicon 上支持原生 MTP 推测解码,M1 Max 64GB 下 D2 调优后达 74.0 tok/s、1.49x 加速;MIT 许可,用 mtplx serve 命令下载运行。

  6. Hugging Face · 新模型:uncensored48

    DeepSeek-V4.1-Flash-1017-UNCENSORED 的 oQ4e-mtp MLX 版本发布,支持 Apple Silicon

    dealignai 的 DeepSeek-V4.1-Flash-1017-UNCENSORED(约 764B 参数 MoE、1M 上下文)推出 oMLX oQ4e 量化版,约 432 GB,保留 MTP 头与 Engram 量化,需 512 GB Mac 运行。MMLU-Pro 80.3、GSM8K 96.0、HumanEval 92.7,与官方权重版差距在几分以内,SafetyBench 76.3 因移除拒答而下降。Mac Studio M3 Ultra 上解码约 29 tok/s,MIT 许可。

  7. Hugging Face · 新模型:uncensored34

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    Hugging Face 用户 thomasdaniel87 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,推荐 GGUF 使用 Q4_K_M(4.60 GB)。该版本无内置安全检查器,可直接生成 NSFW 内容,需配合 ComfyUI 与配套的 qwen3vl_8b 文本编码器和 VAE 使用,MLX 格式针对 Apple Silicon 优化。

  8. Hugging Face · 新模型:uncensored31

    Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes GGUF 发布

    burningfeet 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes GGUF,基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 底座,并将 Hermes 微调数据(约 2k 块、来自两个 FFN expert 张量)迁移而来。该模型经 Genesis 后训练张量修复处理,基于 Marchenko–Pastur 分布降噪,保留 99% 信号与学习梯度。规格为 35B 总参数、MoE 每次前向约 3B 激活、256 专家(8 路由 + 1 共享)、262K 原生上下文(YaRN 可扩展至 1M),推荐 APEX 或 NVFP4 量化并保持至少 128K 上下文。

  9. Hugging Face · 新模型:abliterated48

    jaromer 发布 Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF(IQ3_S 等 4 档量化)

    jaromer 在 Hugging Face 发布 abliterated 版 Qwen3.8-Flash-Next GSQ-RCO GGUF,通过张量移植移除拒答方向,不重算任何 GSQ 学习到的量化值,保留 262K 上下文与 APACHE-2.0 许可。IQ3_S 版 83.86 GB,四档(IQ3_S/IQ3_XXS/IQ2_XS/Q2_0)均逐张量 blake2b 校验,每档仅比上游多 0.25–0.44 GB;模型无内置安全护栏,部署时需自行提供审核。

  10. Hugging Face · 新模型:uncensored25

    slip618 发布 Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF 模型

    slip618 在 Hugging Face 发布 Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF 模型,提供 Q4_K_M 量化版本。该模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种工具本地运行,支持启动 OpenAI 兼容 API 服务器或在终端直接推理。

  11. Hugging Face · 新模型:abliterated26

    Qwen3-4B-Claude-Sonnet-4-Reasoning-Distill-Heretic-Abliterated-i1-GGUF 上架 Hugging Face

    Kirill777Vais 发布的 Qwen3-4B-Claude-Sonnet-4-Reasoning-Distill-Heretic-Abliterated-Heretic-Abliterated-i1-GGUF 模型现已在 Hugging Face 开源。该模型提供 Q4_K_M 量化版本,可通过 Transformers、llama.cpp、Ollama、Docker、LM Studio、Pi、Hermes Agent、OpenClaw 等多种工具加载运行,llama.cpp 还支持启动 OpenAI 兼容的本地服务器。

10月26日周一
  1. Hugging Face · 新模型:uncensored50

    Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced 发布:去审查版 Gemma 4 12B GGUF 模型

    HauhauCS 基于 Google DeepMind 官方 Gemma 4 12B QAT 权重发布去审查版 GGUF 模型,0/465 拒答,不改动数据集与能力。Balanced 版针对 agentic coding、推理与创意写作调优,内置 MTP 投机解码头可提速约 60%,Q4_K_M 量化 6.9 GB,支持 256K 上下文与 mmproj 图像输入,兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  2. Hugging Face · 新模型:uncensored60

    XTer123 发布 Nanbeige4.3-33B-Uncensored GGUF 去对齐版本

    XTer123 基于 Heretic 的拒绝方向消融方法,将 Nanbeige4.3-33B 去对齐并量化为 Q5_K_M GGUF,无微调与新训练数据,104 个可消融矩阵中仅改 59 个,抽查张量与基座逐位一致。在其 100 条提示词测试集上,基座模型拒绝 98 次,该版本拒绝 26 次,KL 散度为 0.0224;聊天模板未改动,支持 262144 token 上下文配 4-bit KV cache,附带 rank-3 delta adapter 可重建权重,License 为 Apache-2.0。

    推荐理由:原文给出拒绝方向消融方法与 98 比 26 的拒绝率对比和 KL 散度数据,可据此判断这个去对齐版本改动幅度。

  3. Hugging Face · 新模型:uncensored24

    tinyopsec 发布 MiniCPM5-2B-Abliterated-Uncensored 的 GGUF 量化版本

    tinyopsec 基于 openbmb/MiniCPM5-2B(Llama 架构,约 2.5B 参数,经 abliterated 去审查处理)制作并发布 GGUF 量化文件,采用 llama.cpp 生成,提供从 F16(5.0 GB)到 Q2_K 共 13 种量化档位,其中 Q4_K_M(4-bit medium)为推荐版本。模型可通过 llama.cpp 及 Ollama、LM Studio 等 GGUF 兼容运行时使用,以 Apache License 2.0 授权。

  4. Hugging Face · 新模型:uncensored23

    DeepSeek-V4-Flash-Vision-Uncensored 的 EXL3 4 bpw 量化版发布

    Hugging Face 上发布 orcarouter/DeepSeek-V4-Flash-Vision-Uncensored 的 EXL3 4 bpw 量化版,共 23 个 safetensors 分片、约 146 GB,实测码率 4.04 bpw,针对 TabbyAPI / exllamav3 与 CPU MoE offload 调优。在 56 GB VRAM(2 GPU)上验证,cpu_moe_split_experts: 192、cache_size: 131072,生成速度约 23 tok/s,文本与视觉均已通过 chat_template.jinja 基础模板验证。

  5. Hugging Face · 新模型:abliterated35

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:去审查版 Qwen3.8-27B

    huihui-ai 基于 Qwen/Qwen3.8-27B 发布去审查(abliterated)版本 Huihui-Qwen3.8-27B-abliterated-GGUF,仅消融第 22 至 52 层(0 起始索引),MTP 与视觉部分未改动。多个系列(Underdog-Saluki、Swift、Ternary、GSQ-RCO、UD 等)陆续追加,部分量化将 token_embd、output、ffn_down 等待消融权重转为 Q8_0 并命名为 Q2_K_L 至 Q6_K_L。模型可通过最新版 ollama 运行 huihui_ai/Qwen3.8-abliterated,llama.cpp 支持上下文长度 262144,官方提示输出可能含敏感内容,建议用于研究测试场景。

  6. Hugging Face · 新模型:uncensored70

    dealinai 发布 GLM-5.3-Flash 无审查 FP8 权重,HarmBench-320 零拒绝且 MMLU 反超基线

    dealinai 以 CRACK 方式对 GLM-5.3-Flash 做权重级去审查并发布 FP8 版本(320B 总参数、18B 激活、1M 上下文),直接在张量中移除拒绝行为,不用 SFT、DPO、LoRA 或模板技巧。HarmBench-320 上 reasoning-OFF 和 max 档 320/320 全通过、0 拒绝(low 档保留部分拒绝),MMLU 87.33% 高于基线 86.74%;H200 TP4 原生 FP8 解码 163 tok/s,开启 MTP 投机解码达 211 tok/s、接受率 75.9%。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  7. Hugging Face · 新模型:uncensored66

    FLUX 3 Image Klein 提示词扩展器无对齐版发布,英文拒绝率从 63% 降到 0%

    AtomicChat 基于 BFL 的 FLUX 3 Image Klein 提示词扩展器(9B Qwen3.5 微调)投影移除拒绝方向,发布 llama.cpp 可用的 GGUF 权重及 3MB LoRA 版本。作为聊天模型,held-out 提示词上英文拒绝率从 63% 降至 0%,俄语从 29% 降至 1%,MMLU 从 74.15% 微降至 73.95%,工具调用与长文本检索不受影响;作为 upsampler 时在 35 条敏感请求中比原版多保留 2 条内容,但 Klein 图像模型本身不画这两类,出图无可见去审查效果。

    同一新闻,精选展示《AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版》

  8. Hugging Face · 新模型:abliterated34

    Huihui-Qwen3.8-27B-abliterated-GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术移除拒绝行为,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,其余层保持不变,并提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144。模型安全过滤大幅降低,建议用于研究测试环境。

  9. Hugging Face · 新模型:uncensored50

    Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP GGUF 发布

    HauhauCS 发布 Qwen3.8-27B 无审查 Aggressive 变体的 GGUF 量化版本,0/465 拒答,直接作答且几乎无前导语。该版本附带 HauhauCS FastMTP 32K 加速 sidecar,在 Q8_K_P 下相比禁用 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG,比标准内嵌 MTP 高 35.2% 和 21.1%。模型保留文本、推理、agentic、图像与视频能力,原生 262,144-token 上下文,可扩展至 1,000,000,兼容 llama.cpp 等标准 GGUF 运行时。

  10. Hugging Face · 新模型:uncensored38

    Gptsn/Llama-3.2-3B-Instruct-uncensored-GGUF 量化版本发布

    基于 unsloth/Llama-3.2-3B-Instruct 的去审查微调模型推出 GGUF 量化版本,abliteration 后 KL 散度仅 0.0265,测试中 100 次拒绝仅 4 次,并保留多语言能力。提供 Q4_K_M(2.02GB)、Q5_K_M(2.32GB)、Q8_0(3.42GB)和 f16(6.43GB)四种量化,可在 LM Studio 或 Ollama 中加载使用。

  11. Hugging Face · 新模型:abliterated26

    Feyospace-v1.1-Abliterated-security-MTP-UD-Q4_K_S GGUF 量化版发布

    Hugging Face 社区发布 Feyospace-v1.1-Abliterated-security-MTP-UD-Q4_K_S,这是基于 OBLITERATUS/feyospace-s1-obliterated 的 GGUF 量化版,面向本地网络安全研究、代码分析与工具辅助调查。该构建采用 UD-Q4_K_S 混合精度布局、面向安全的 importance-matrix 校准,并保留 MTP 头以支持投机解码;上游模型约 28B 参数、Qwen3.5 架构、Apache-2.0 许可,最大上下文 262,144 tokens。该卡未提供此量化版的 benchmark 结果,最终张量清单与质量保留情况尚待验证。

  12. Hugging Face · 新模型:abliterated36

    Huihui-Kolibri-1-BF16-abliterated-GGUF:Aleph-Alpha Kolibri-1-BF16 的无审查版

    huihui-ai 基于 Aleph-Alpha/Kolibri-1-BF16 制作了 abliterated 无审查版本,全程用 llama.cpp 的 GGUF 完成,不依赖 Transformers。已用 llama.cpp 重新量化并上传 Q2、Q3、Q4、Q5、Q6、Q8 和 BF16 版本。原版 llama.cpp 暂不支持 kolibri1 架构,需应用仓库内提供的补丁并检出 commit 836d571 后编译。

  13. Hugging Face · 新模型:uncensored36

    Ornith-1.5-122B-UNCENSORED NVFP4 版本发布,可单卡 RTX 5090 运行 Infernix 格式

    dealignai 在 Hugging Face 发布 Ornith-1.5-122B-UNCENSORED 的 NVFP4-Infernix 格式导出,这是去 refusals 版本的量化模型,基于 Qwen3.5-122B-A10B 架构(48 层、256 个路由专家每层取 top 8),附带 MTP 与 DFlash2 drafter。模型经逐字校验与 checkpoint 无失配,可在单张 RTX 5090(32 GB)上运行,约需 70 GiB 主机内存和 76 GB 磁盘空间,速度仍待优化测定。

  14. Hugging Face · 新模型:uncensored48

    Qwen3.8-Flash-Next-Uncensored 发布 UD-Q4_K_XL 量化版(GGUF)

    Hugging Face 用户发布 Qwen3.8-Flash-Next 越狱版(orcarouter/Qwen3.8-Flash-Next-Uncensored)的 UD-Q4_K_XL 风格量化,复刻官方 Unsloth 类型表,主干 5.03 BPW、总计 108.39 GiB,附带 MTP draft head(Q8_0)与视觉塔(BF16),原生上下文 262,144,Apache-2.0。在 AMD Strix Halo 上以 Gufo 与 Halogen 实测 decode 32~40 tok/s,MTP 推测解码正常;缺 MTP head 会静默关闭推测解码,吞吐掉 30%+。

  15. Hugging Face · 新模型:uncensored75

    BoldingBuilds 发布 GLM-5.3-Flash-Uncensored 的 imatrix GGUF 量化并实测去对齐效果

    BoldingBuilds 放出 OrcaRouter 去 GLM-5.3-Flash-Uncensored(320B 总参数/18B 激活 MoE、288 路由专家、1M 上下文)的 imatrix GGUF 量化,含 IQ3_XXS、IQ2_M、IQ2_S、IQ2_XXS 四档,并修正共享专家与 attention 量化配方使 IQ2_S 等通过全部 48 项一致性测试。量化权重上实测 JailbreakBench 有害拒绝率 0.040(OrcaRouter FP8 为 0.120,base 为 0.930),HumanEval pass@1 0.927;作者指出空输出会计为服从,提醒评测时必须同时报告空输出数,文件已适配 mainline llama.cpp 与 LM Studio 模板。