跳到正文
10月10日周六
  1. Hugging Face · 新模型:abliterated73

    anlord 放出 Gemma-4-E2B-it 消融版,拒绝率从 99/100 降至 4/100

    anlord 在 Hugging Face 发布 google/gemma-4-E2B-it 的 abliterated 版本,用方向消融直接原地改权重,无微调无 LoRA,拒绝率从 99/100 降到 4/100,KL 散度为 2.9072。方法为 Anlord Abliterator 1.6.0 加 Optuna TPE 多目标搜索(100 trials,seed 42),仅修改 35 层文本塔,视觉与音频编码器保留原权重;仓库附带 4 点 Pareto 前沿的更温和变体参数和完整逐字节复现包,GGUF 量化在配套仓库 anlord/gemma-4-E2B-it-abliterated-GGUF 提供 F16 至 Q4_0。

    推荐理由:原文给出了完整的消融方法、拒绝率与KL偏移数据及四点Pareto前沿,读者可按需选择去对齐强度并逐字节复现。

  2. Hugging Face · 新模型:abliterated57

    anlord 发布 google/gemma-4-E2B-it 的 abliterated GGUF 量化版

    anlord 在 Hugging Face 发布 gemma-4-E2B-it-abliterated 的 GGUF 量化合集,原模型消融拒绝行为后每 100 条有害提示的拒绝数从 99 降到 4。提供 bf16 到 Q4_0 共 12 个量化文件,全部由同一 F16 源用 llama-quantize 转换,8 GB 显存的 GPU 可完整容纳 Q4_K_M 至 Q8_0,仅含文本塔,多模态推理需用父仓库 safetensors,许可沿用 Gemma 条款。

    推荐理由:原文给出拒绝率前后对比和各量化档位的实测说明,读者可按显存预算直接挑选合适档位。

  3. Hugging Face · 新模型:uncensored56

    Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED 微调模型发布,拒绝率从 100/100 降至 6/100

    cookies55 在 Hugging Face 发布了 Qwen3.5-9B 的去审查微调版,用 Unsloth 在本地硬件以 Claude 4.6 大型蒸馏数据集训练,经 Heretic 消融后拒绝率从 100/100 降到 6/100,KL 散度为 0.0793。该版本为 INSTRUCT 模式并修改了 jinja 模板,图像输入经测试可用,视频部分未测试,建议最低 q4ks(非 imatrix)或 IQ3S(imatrix)量化。

    推荐理由:作者给出了消融后的 KL 散度和拒绝率前后对比,以及七项基准分数变化,读者可自行判断去对齐的代价。

  4. Hugging Face · 新模型:uncensored60

    HauhauCS 发布 Qwen3.8-27B Uncensored Aggressive 变体的 GGUF 量化与 FastMTP 加速方案

    HauhauCS 在 Hugging Face 发布基于 Qwen3.8-27B 的 Uncensored Aggressive 无对齐变体 GGUF 量化,实测 0/465 次拒绝,无前导客套地直接回答。所有文本 GGUF 保留原生 NextN/MTP 头,并附带 HauhauCS FastMTP 32K 加速 sidecar,在 RTX PRO 6000 上对比关闭 MTP 时文档 TG 最高达 3.02x、推理 TG 最高 1.93x,Q8_K_P 档位比标准内嵌 MTP 快 35.2%/21.1%;提供 Q2 至 Q8 及 IQ 系列量化、BF16 视觉 projector、llama.cpp 补丁与部署命令,附 Ed25519 签名清单校验。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  5. Hugging Face · 新模型:uncensored79

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    作者发布了 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(IQ2_M 到 Q8_0),用 Heretic 移除拒绝方向,保留 MTP 头,拒绝行为显著减少但未消除,从 100 个有害提示中的 98 个降至 12 个。权重编辑带来约 0.043 的困惑度增加(相对约 0.7%),MMLU、ARC-Challenge、HellaSwag、Winogrande 四项基准平均下降 0.5 分且均在标准误内。模型卡同时给出 imatrix、自建低比特量化方法和 MTP 投机解码实测(n_max 1 时约 1.19x-1.28x 加速)。

    推荐理由:作者给出了 Heretic 消融方法、拒绝率从 98/100 降到 12/100 以及困惑度和基准的前后对照数据,可以据此判断权重编辑的实际代价。

  6. Hugging Face · 新模型:uncensored76

    dealignai 发布 DeepSeek-V4.1-Flash 权重级消融无对齐版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 骨干)的权重级消融版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,HarmBench-320 攻击成功率从基座的 42.81% 提升到 100%,且在各 effort 档位均为 320/320。MMLU-14k 整体下降 4.22pp,剔除伦理类题目后仅降 1.1pp,符合 3pp 能力保留目标;卡片还提供 SGLang 部署命令、硬件实测(4×H200,约510GB 权重)与启动注意事项。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  7. Hugging Face · 新模型:uncensored71

    GLM-5.3-Flash UNCENSORED FP8 发布,HarmBench-320 拒绝率归零且 MMLU 略升

    dealignai 以 CRACK 权重级去审查方式发布 GLM-5.3-Flash UNCENSORED FP8(320B 总参数、18B 激活、1M 上下文),在 reasoning-off 和 max 档 HarmBench-320 上 320/320 全部顺从、0 拒绝,MMLU 87.33% 高于 base 的 86.74%。模型支持视觉与 MTP 投机解码(75.9% 接受率),H200 原生 FP8 解码 163 tok/s。文中还给出部署要点,如 reasoning_effort 只接受 low/high、max 档需 max_tokens ≥ 6000、视频 fps 需低于原帧率等;2026-08-28 修复重复循环问题后需重新下载。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  8. Hugging Face · 新模型:uncensored65

    GospodinAizen 发布 GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版

    GospodinAizen 在 Hugging Face 发布 GLM-5.3-UNCENSORED-EXL3-3.0bpw,是对 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化,后者为 zai-org/GLM-5.3 的权重编辑去对齐版本(非微调),编辑记录见 CRACK_SURFERY.。模型为 GlmMoeDsaForCausalLM,753B 总参数、256 路由专家(激活 8 个)加 1 个共享专家,平均码率 3.04 bpw,体积 273 GiB,含可用作投机草稿的 MTP 层;与 FP8 源对比困惑度 3.440 对 3.302。tau2-bench 上 airline 差 -0.070、retail 差 -0.022,均不具统计显著性。

  9. Reddit · r/LocalLLaMA72

    RTX 5090 上实测 Qwen3.8-Flash-Next:Infernix NVFP4 对比 Strata,512k 上下文解码 137 tok/s

    /u/zipzak 在 5090 + 192GB Windows 机器上,对 Qwen3.8-Flash-Next Uncensored(abliterated checkpoint)做了 Strata 0.1.41(Q4_K_S)与 Infernix 2026.10.09.2(NVFP4)的同日 A/B 评测。结果为 Infernix 512k 上下文解码 137.0 tok/s、冷预填充 3,497 tok/s,262k 下比 Strata 快约 23%;两者 PPL 统计持平,视觉功能均可用,作者将 Infernix 作为日常主力。

    推荐理由:作者在同一硬件与同一推理契约下对两个推理引擎做同日 A/B 实测,给出了解码速度、预填充、质量和冷启动数据,方法可参考。

  10. Hugging Face · 新模型:uncensored63

    j-llm 发布 Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版

    j-llm 在 Hugging Face 发布 orcarouter/Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版,约 19.2 GB,5.13 bits/weight。该量化基于对 uncensored 权重直接测量的逐层 KL 敏感度分配精度,保留 BF16 视觉塔与 MTP head sidecar,262,144 token 上下文;Capability Score 88.86,高于参考版 mlx-community/Qwen3.8-27B-OptiQ-4bit 的 87.98。

    推荐理由:原文给出逐层 KL 敏感度测量和 6 项基准对比,读者可评估混合量化相对参考版的质量取舍。

  11. Reddit · r/LocalLLaMA72

    Qwen3.8-27B 无对齐 Heretic 版 UD-IQ4_XS 量化发布,16 GB 显卡开 MTP 达 55-68 tok/s

    Reddit 用户 /u/ZestRocket 基于 llmfan46 的 uncensored Heretic 权重,套用 Unsloth 的 UD 配方自行量化出 12/16/24 GB 三个版本,托管在 Hugging Face(codavidgarcia/Qwen3.8-27B-Uncensored-Heretic-MTP-UD-GGUF)。16 GB 的 UD-IQ4_XS 在 RTX 4080 上开 MTP 实测代码 55 tok/s、散文 50 tok/s(关 MTP 仅 29/29),并以 Q8_0 为基准对比了各量化的 KLD 质量。作者还发现 2 个草稿 token 优于 3 个、显存溢出会让速度骤降(开 Chrome 掉到 0.2 tok/s),并附上配方提取与基准测试脚本。

    同一新闻,精选展示《Qwen3.8-27B-Uncensored-Heretic GGUF 量化发布,为 12/16/24 GB 显卡保留原生 MTP 头》

  12. Hugging Face · 新模型:abliterated70

    Qwen3.8-27B-Heretic RVN 消融版发布 GGUF 权重

    mincon 在 Hugging Face 发布 Qwen3.8-27B 的 RVN 双重精炼 ARA 消融版本(GGUF),在 trohrbaugh 的 heretic-ara 基础上追加两次全权重 ARA 处理。独立实测显示有害提示词拒绝率从 3/100 降至 0–1/100,相对 base 模型的 KL 损伤从 0.0535 降至 0.0085;仓库提供 multilingual、MTP、vision 等 GGUF 文件家族并附各量化档的显存建议与 llama.cpp 推理速度实测。

    同一新闻,精选展示《Qwen3.8-27B RVN 消融版 GGUF 发布,拒绝率降至 0-1/100》

  13. Hugging Face · 新模型:uncensored52

    Qwen3.8-27B-Uncensored-Heretic GGUF 量化发布,为 12/16/24 GB 显卡保留原生 MTP 头

    codavidgarcia 发布 Qwen3.8-27B-Uncensored-Heretic 的 UD GGUF 量化,采用 Unsloth 逐张量配方,MTP 头(blk.64)在各档保持 q6_K/q8_0,使模型连同原生 MTP 完整装入 12/16/24 GB 显卡。实测 16 GB UD-IQ4_XS 的 KLD 比可容纳 MTP 的同类量化低 2.4 倍,RTX 4080 上开启 MTP 后代码生成 55 tok/s,约为关闭时的 1.9 倍;拒绝率数据来自 llmfan46 的 Heretic v2(3/100 拒绝),本仓库未复测。

    推荐理由:作者对每档量化都实测了 KLD、top-1 命中率和解码速度,并与同权重其他量化逐项对比,数据可直接用于选型。

  14. Hugging Face · 新模型:uncensored21

    AtomicChat/Qwen-Image-2.1-Turbo-Uncensored-GGUF 上架 Hugging Face

    AtomicChat 发布的 Qwen-Image-2.1-Turbo-Uncensored-GGUF 现已上架 Hugging Face。该模型提供 Q2_K 量化版本,可通过 llama.cpp 一条命令启动本地 OpenAI 兼容服务器并带 Web UI,示例命令为 `llama serve -hf AtomicChat/Qwen-Image-2.1-Turbo-Uncensored-GGUF:Q2_K`。页面同时给出在 Ollama、Docker、LM Studio、Jan、Pi、Lemonade、Hermes Agent、OpenClaw 等工具中的接入方法。

  15. Hugging Face · 新模型:abliterated76

    Qwen3.8-27B abliterated 版本发布,权重级消融将拒绝率从 99.3% 降至 0%

    rajaykumar12959 在 Hugging Face 发布 Qwen/Qwen3.8-27B 的 abliterated 版本,用 difference-in-means 方向对每个残差写入权重矩阵做正交化,消融直接写入 checkpoint,无 runtime hook 和 LoRA,仅含语言模型部分(bf16,text-only,约需 55 GB 显存)。在 292 个 held-out 有害提示上拒绝率从 99.3% 降至 0%,覆盖全部 12 个类别;代价是 MMLU-Pro 从 65.1% 降至 61.8%(−3.3 pp),harmless 提示上的 KL 散度为 0.086 nats。

    推荐理由:给出了完整的消融方法、逐层扫描和拒绝率前后对比数据,读者可以据此评估这次去对齐的实际代价与副作用。

  16. Hugging Face · 新模型:abliterated68

    Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本发布,拒绝率从 43/44 降至 14/44

    alexwkleung 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本,用 Heretic 消融 662 个 tensor,拒绝率在 enable_thinking 为 false 时从 43/44 降至 14/44,GSM8K 89/100 无明显回归。作者还发现 Heretic 1.4 在 Transformers 5 的融合 MoE 模块上会静默跳过专家层,此构建将融合专家拆回独立 Linear 后再消融,提供 Q4_K_M 到 Q8_0 共四档量化文件与 sha256 校验值。

    推荐理由:卡片给出消融修改的 tensor 清单和拒绝率前后对照,还包括 Heretic 在 MoE 融合模块上静默失败的具体坑与修复方法。

  17. Hugging Face · 新模型:abliterated24

    huihui-ai 发布 Phi-4-multimodal-instruct-abliterated GGUF 模型

    huihui-ai 基于 microsoft/Phi-4-multimodal-instruct 制作的去审查版 Phi-4-multimodal-instruct-abliterated 已上传 Hugging Face,采用 abliteration 技术移除模型的拒绝行为,且仅处理了文本部分、未处理图像部分。模型可用 Hugging Face transformers 库加载,支持 flash_attention_2 与 bfloat16。

  18. Hugging Face · 新模型:uncensored39

    Swift-1.5-Qwen3.8-27B-Uncensored-MTP 的 VAL-APEX-I MiniPlus V3 GGUF 量化版发布

    IsValorum 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-MTP 的 VAL-APEX-I MiniPlus V3 GGUF 量化版,文件大小 14.28 GB,whole-file BPW 为 3.93,WikiText-2 PPL 为 6.6669,比 GSQ-RCO IQ3_S 基线降低 5.70%。该模型基于 UkisAI 的 Swift-1.5 推理微调,内置 Multi-Token Prediction 投机解码头(blk.64.*,844M 参数),可在 llama.cpp 中直接加速推理,无需外部 draft 模型;同时保留高精度视觉编码器(mmproj-Q8_0.gguf),并维持法、西、德、中多语言语法完整性。

  19. Hugging Face · 新模型:uncensored42

    Swift-1.5-Qwen3.8-27B-Uncensored-MTP 发布 VAL-APEX-I NanoPlus V3 GGUF 量化版

    UkisAI 的 Swift-1.5-Qwen3.8-27B-Uncensored-MTP 推出 VAL-APEX-I NanoPlus V3 GGUF 量化版,文件仅 11.08 GB、整文件 BPW 2.85,WikiText-2 PPL 为 6.9102,比基线 GSQ-RCO IQ3_S 低 2.26%。模型基于 Qwen3.8-27B 的 27B MoE 推理微调,内置 Multi-Token Prediction 头(blk.64.*,15 个 tensors)可在 llama.cpp 中直接投机解码,并保留 mmproj-Q8_0.gguf 视觉编码器与法、西、德、中多语言语法完整性。

  20. Hugging Face · 新模型:uncensored29

    Ternary Bonsai 2 27B Uncensored Heretic v2 Compact MLX 2-bit 紧凑版发布

    3hs4n 在 Hugging Face 发布 Ternary Bonsai 2 27B Uncensored Heretic v2 的紧凑版 MLX 权重,将 27 个视觉 MLP expansion 层从 FP16 量化为原生 MLX affine 2-bit/group-128,权重文件从 8.60 GB 降至 8.37 GB,节省约 230 MB(2.68%)。全部 2,057 个语言张量逐字节不变,思考模板与 tool-call 格式保留,上下文上限 262,144 tokens。已在 LM Studio 0.4.26+4 验证通过,但推理质量未经 benchmark,视觉量化为有损。

  21. Hugging Face · 新模型:uncensored29

    ajgazin 发布 Swift-1.5-Qwen3.8-27B-Uncensored 的 NInfer NVFP4 版本

    ajgazin 在 Hugging Face 上发布 Swift-1.5-Qwen3.8-27B-Uncensored 的 NInfer NVFP4 量化版本(swift15_qwen3_8_27b_uncensored_nvfp4.ninfer),面向 Blackwell(sm_120a)NInfer 引擎。文件包含 text、vision、MTP 和 DFlash2 组件,64 层经校准的 NVFP4 MLP,其余为 FP8,单文件约 22.78 GB。在 32 GB GPU 上驻留权重约 18.1 GiB(无投机解码)至 20.5 GiB(DFlash2),支持 --max-context 32768,采用 Swift Open License v1.0 许可。

  22. Reddit · r/SillyTavernAI35

    用户自制 SillyTavern 扩展:按场景尺度自动切换模型连接配置

    一位 SillyTavern 用户自制了一个扩展,用 Jev 对当前场景进行 NSFW 程度分类,并据此自动切换连接配置:正常剧情留在常用写作模型,NSFW 或被拒时自动降级到更宽松的模型并重试。连接配置还保存 preset,可按场景类型拆分写作风格。作者尚未开源仓库,正征询社区是否有兴趣。

10月9日周五
  1. Hugging Face · 新模型:abliterated75

    Kujira 发布 Underdog Saluki 27B 1.0 MTP 去拒答 GGUF 版

    Kujira 在 Hugging Face 发布 Underdog-Saluki-27B-1.0-MTP 的 abliterated GGUF 版,仅改动第 35–36 层的 4 个张量,其余 862 个张量与原文件字节级一致,未做训练。有害提示词拒绝率从 99% 降到 1%(开思考时 78% 到 2%),英语困惑度上升 1.6%、日语上升 1.8%,速度和显存与 MTP 版相同,约 58–62 tok/s,12 GB 显卡可用 40K 上下文。消融方法未公开。

    推荐理由:原文列出消融改动的具体张量、拒绝率前后对比和困惑度变化,读者可以评估这个去对齐版本的代价。

  2. GitHub · 去对齐工具与仓库34

    Veronica(VACA)1.0.0:用自然语言构建应用的本地 AI 编码应用,内置 Qwen2.5 14B

    Veronica(VACA)1.0.0 是一款 Electron 桌面应用,用英文描述需求即可构建应用,支持 Linux x64 和 Windows x64,自带 Node 后端。它固定使用 Qwen2.5 14B 模型(约 9 GB)通过 OpenAI 兼容 API 由 Ollama 托管,另有基于 Qwen2.5-Coder-14B-Instruct-Uncensored 加 LoRA 合并、量化为 Q4_K_M 的微调版本托管在 Hugging Face。当前为限时演示版,2026-12-09 后停止启动,仅比对本地时钟,无联网校验、无遥测、过期不删数据。

  3. Hugging Face · 新模型:uncensored65

    HauhauCS 发布 Qwen3.8-27B Aggressive 无审查 GGUF 量化版

    HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无审查量化版,标注 0/465 次拒绝,保留文本、推理、Agent 和图像视频能力,许可证沿用 Apache 2.0。附带自研 FastMTP 32K 草稿加速边车与 llama.cpp 补丁,在 RTX PRO 6000 Blackwell 上 Q8_K_P 达到对关闭 MTP 最高 3.02x 文档 TG 和 1.93x 推理 TG,并给出各档位实测速度与签名校验清单。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  4. Hugging Face · 新模型:abliterated21

    Qwen2.5-1.5B-Abliterated 上架 Hugging Face:基于权重正交化的教育性 abliteration 演示模型

    jaswanthsanjay88 在 Hugging Face 发布 Qwen2.5-1.5B-Abliterated,一个基于 Qwen2.5-1.5B-Instruct 的教育演示模型,采用 Arditi et al. (2024) 的权重正交化(abliteration)方法。干预作用于第 16 层 residual write projections,校准数据采样自 AdvBench harmful 和 Alpaca cleaned 数据集,用于大学教学中展示对齐模型的行为防护如何映射到 transformer 残差流中的线性子空间。

  5. Hugging Face · 新模型:uncensored29

    YK992 发布 Llama-3-8B-Lexi-Uncensored 无审查模型

    基于 Llama-3-8B-Instruct 的无审查模型 Llama-3-8B-Lexi-Uncensored 上线 Hugging Face,遵循 Meta Llama 3 社区许可,允许包括商用在内的用途。该模型对各种请求高度合规,Open LLM Leaderboard 平均分 66.18,其中 HellaSwag 77.88、MMLU 67.68、GSM8k 68.39。作者提醒部署前需自行添加对齐层,并需对生成内容负责。

  6. Hugging Face · 新模型:uncensored57

    dima6312 发布 Swift-1.5-Qwen3.8-27B Uncensored 的 MLX oQ4e 量化版

    dima6312 在 Hugging Face 上发布 ajgazin 的 Swift-1.5-Qwen3.8-27B Uncensored(UkisAI Swift 1.5 的 abliterated 版)的 MLX oQ4e 量化,体积 17.0 GB、4.9 bits per weight,仅做量化未改其他内容,并保留 MTP 头以支持 oMLX 中的自推测解码。在 M4 Pro 48GB 上实测:编码任务 21/24、工具调用 27/30、100 条提示词拒绝 11 次(原模型为 97 次),解码 39.8 tok/s,MTP 接受率 87.5%;模型沿用 Swift Open License v1.0,年收入超 100 万美元的组织商用需 UkisAI 的企业授权。

    推荐理由:作者用统一的拒绝率测试对比了量化版与原模型,还保留了 MTP 头并给出解码速度,量化质量有实测数据可查。

  7. Hugging Face · 新模型:abliterated57

    LFM2.5-2.6B abliterated 去对齐版发布,25条有害提示拒绝率降至0/25

    haddockaihamburg 在 Hugging Face 发布了 LiquidAI/LFM2.5-2.6B 的 abliterated 去对齐版本,用 heretic 工具(方向性消融加 TPE 参数优化、Arbitrary-Rank Ablation 合并权重)全自动生成,无需手动调参,heretic 共跑20次 Optuna 试验并恢复 Pareto 前沿顶部。独立于 heretic 评分器的实测显示,25条有害提示中基座模型拒绝22次,该版本拒绝0次;作者提醒仅25条提示、单一随机种子,不能将拒绝率数字解读为无能力损失,也未跑完整基准。

    推荐理由:原文给出了消融方法与独立实测的拒绝率对比,并坦承只有25个提示词、单种子运行,读者可据此自行评估其参考价值。

  8. Hugging Face · 新模型:abliterated41

    Huihui-Qwen3.8-27B-abliterated GGUF 量化版本更新

    Huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版 GGUF 量化模型,多次更新新增 UD、UD-DW、GSQ-RCO、Ternary、Swift 等系列,其中部分版本仅消融第 22 至 52 层(0 起始索引)。模型提供 Q2_K_L 至 Q8_0_L 等量化格式,支持上下文长度 262144,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行。官方提示安全过滤已显著降低,建议仅用于研究和测试环境。

  9. Hugging Face · 新模型:abliterated22

    Huihui-GLM-5.3-Flash-abliterated-GGUF 模型在 Hugging Face 上提供多种推理部署方式

    muterornament/Huihui-GLM-5.3-Flash-abliterated-GGUF 现已在 Hugging Face 上提供,是一个图像-文本到文本的 abliterated GGUF 模型,支持 UD-Q4_K_XL 等量化版本。用户可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker、LM Studio 等多种工具运行,llama.cpp 和 vLLM/SGLang 均提供 OpenAI 兼容 API,支持文本与图像输入。

  10. Hugging Face · 新模型:abliterated75

    GLM-5.3 (753B) 权重级去审查版发布,NVFP4 量化附拒绝率与 MMLU 对比

    dealignai 以 CRACK 方法发布 GLM-5.3 (753B, ~18B 激活) 的权重级去审查版本 GLM-5.3-ABLITERATED-NVFP4,宣称不用微调、LoRA 或越狱提示,直接在张量中移除拒绝行为,面向授权渗透测试与安全研究。HarmBench 实测 high/max 模式下 156 条提示 0 拒绝,off 模式拒绝率 7.3%(多为版权类);MMLU 84.11%,较 base 的 85.58% 降约 1.5pp。模型给出 vLLM 部署命令,NVFP4 版在 GB10 上 KV 池达 35 GiB/rank,可支撑 TP8 下 512K 实用上下文。

    推荐理由:原文给出 HarmBench 拒绝率和 MMLU 前后对比数据,读者可以据此判断这个权重级去对齐版本的实际效果与能力损失。

  11. Hugging Face · 新模型:uncensored57

    GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版发布,含保真度与 Agent 实测数据

    muterornament 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 3.0bpw 量化版本,上游是 zai-org/GLM-5.3 的权重编辑(无微调)变体,模型为 GlmMoeDsaForCausalLM 架构,总参数 753B,256 个路由专家(激活 8 个)加 1 个共享专家,体积 273 GiB。作者用 wikitext-2 给出量化对 FP8 源的 KL 散度与困惑度对比(困惑度 3.440 对 3.302),并在 tau2-bench 上与 Z.ai FP8 原版对比,airline 和 retail 两域差异均无统计显著性。

  12. Hugging Face · 新模型:uncensored60

    GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版发布

    gopiprakan 发布了 GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本(平均 3.04 bpw,273 GiB),上游是 dealignai 对 zai-org/GLM-5.3 做权重编辑得到的无微调变体,编辑记录保存在 CRACK_SURVEY. 同目录的 CRACK_SURGERY.。量化版在 wikitext-2 上相对 FP8 源的 KL 散度为 0.089/0.097,perplexity 3.440 对 3.302;tau2-bench 实测中 airline 和 retail 两域与原版 GLM-5.3 FP8 的差异分别为 -0.070 和 -0.022,样本量下不具统计显著性。

  13. Hugging Face · 新模型:abliterated69

    hotdogs 发布 Ternary Bonsai 2 27B 去对齐合并版,约7.6GB 单卡可跑

    hotdogs 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-PQ2_0-MTP,基于 BoldingBuilds 的去拒绝 v2 版,以 0.4 scale 合并 Swift 去对齐与 ThinkingCap 省 token 推理两个 SVD-LoRA。模型采用 PQ2_0 三元量化(约2.13 bits/weight),27.3B 参数仅约 7.6 GB,支持 262,144 token 上下文、视觉输入和 MTP 投机解码。仅能通过 PrismML 的 llama.cpp fork 加载,主线程 llama.cpp、Ollama 和 LM Studio 均不支持。

    推荐理由:原文给出abliteration的张数、MMLU损失和各LoRA保留能量,合并构建的局限与适用范围都写得很透明。

  14. Reddit · r/LocalLLaMA60

    在 RTX 4090 上以 262K 上下文和约 130 tok/s 运行无审查版 Qwen3.8-27B(HauhauCS)

    作者将 HauhauCS 发布的无审查 Qwen3.8-27B(GGUF 格式)转换为自研 C++/CUDA 推理引擎 NInfer 的格式,在单张 4090 上跑出 262K 全原生上下文、约 130 tok/s 解码速度(MTP3,70.8% 接受率)、9K 提示词下 3,591 tok/s 预填充,Perplexity 与官方产物差距在 1.3% 以内,视觉和工具调用仍可用,采用 E8 4Bit 量化。转换器与说明见 https://github.com/T-Crypt/ninfer-4090/pull/4,仓库为 ninfer。

    推荐理由:作者给出转换前后速度、上下文和困惑度的对照数字,读者可据此评估自研推理格式在量化去对齐模型上的可用性。