跳到正文
10月26日周一
  1. Hugging Face · 新模型:uncensored75

    BoldingBuilds 发布 GLM-5.3-Flash-Uncensored 的 imatrix GGUF 量化并实测去对齐效果

    BoldingBuilds 放出 OrcaRouter 去 GLM-5.3-Flash-Uncensored(320B 总参数/18B 激活 MoE、288 路由专家、1M 上下文)的 imatrix GGUF 量化,含 IQ3_XXS、IQ2_M、IQ2_S、IQ2_XXS 四档,并修正共享专家与 attention 量化配方使 IQ2_S 等通过全部 48 项一致性测试。量化权重上实测 JailbreakBench 有害拒绝率 0.040(OrcaRouter FP8 为 0.120,base 为 0.930),HumanEval pass@1 0.927;作者指出空输出会计为服从,提醒评测时必须同时报告空输出数,文件已适配 mainline llama.cpp 与 LM Studio 模板。

  2. Hugging Face · 新模型:uncensored18

    MishraNepali/OrcaSAQ-2-Cyber-27B-Uncensored-GGUF_Q2_K 模型上线 Hugging Face

    MishraNepali 发布 OrcaSAQ-2-Cyber-27B-Uncensored 的 GGUF Q2_K 量化版本,可在 Hugging Face 获取。该模型支持通过 llama.cpp、vLLM、Ollama、Docker Model Runner 等多种工具本地运行,并可启动 OpenAI 兼容 API 服务器供 LM Studio、Jan、Pi、Hermes、OpenClaw 等客户端调用。

  3. Hugging Face · 新模型:abliterated26

    Qwen2.5-7B-Instruct-abliterated-64k 发布:元数据修复版 GGUF

    R0U5 在 Hugging Face 发布 Qwen2.5-7B-Instruct-abliterated-64k,这是基于 huihui-ai 消融模型与 mradermacher GGUF 量化的元数据修复版,非新增消融。仓库将 context_length 重新声明为 65536 并添加 YaRN rope scaling 元数据(factor 2.0),以满足 Hermes Agent 64,000 token 最低上下文要求,权重与上游量化逐位一致。经 llama.cpp 验证 12 个拒绝测试提示 0 拒绝,Q4_K_M 版本 4.68 GB。

  4. Hugging Face · 新模型:abliterated20

    Hugging Face 上架 abliterated 量化模型 llm-qwen3.8-flash-next-abliterated-iq4xs

    abliterated 版模型 yuanyeyuanye/llm-qwen3.8-flash-next-abliterated-iq4xs(UD-IQ4_XS 量化)现可通过 llama.cpp 加载,支持 llama serve 启动兼容 OpenAI 的本地服务器与 llama cli 终端推理。模型也可经 Ollama、Docker、Lemonade 拉取运行,并能接入 Pi、Hermes、OpenClaw 等工具,覆盖 macOS、Linux 与 Windows 平台。

  5. Hugging Face · 新模型:uncensored60

    dealignai 发布 Nanbeige4.3-33B 的 UNCENSORED GGUF 量化版本

    dealignai 在 Hugging Face 发布 Nanbeige4.3-33B 的 UNCensored GGUF 版本,移除基础模型的拒绝行为,提供 Q6_K(25.3 GB)、Q4_K_M(18.7 GB)、IQ2_XXS(8.7 GB)三种量化,均附带基于 1M token 校准内容的 imatrix,保留原生 think on/off 与 512K 上下文。与同量化基础版对比,MMLU chat 下降 Q6_K −1.74pp、Q4_K_M −1.09pp、IQ2_XXS −4.53pp;6 提示多轮合规测试三个量化均为 6/6 通过、0 次拒绝。

    推荐理由:原文给出三种量化的 MMLU 前后对照和多轮拒绝率实测,读者可据此评估去掉拒绝行为的能力代价。

  6. Hugging Face · 新模型:abliterated58

    Nanbeige4.3-33B 网络安全去对齐 GGUF 版发布,拒绝率从 80% 降到 8%

    FRENCHFAKER 发布首个 abliterated 版 Nanbeige4.3-33B GGUF,用 refusal-direction ablation 移除原始模型对进攻性安全请求的拒绝行为。50 条有害提示词基准上拒绝率从 80%(40/50)降至 8%(4/50),安全/渗透测试类提示词拒绝率约 0%,推理与工具调用保持完整;IQ4_XS 量化约 17 GB,可在单张 24 GB GPU 上以约 33 tok/s 运行,基于 Apache-2.0 许可。

    推荐理由:原文给出拒绝率前后对照和逐层消融方法,读者可据此评估这个去对齐版本的可靠程度。

  7. Hugging Face · 新模型:abliterated25

    huihui-ai 发布 Huihui-gemma-4-12B-agentic-fable5-abliterated 去审查版本

    huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2 制作 abliterated 去审查版本,在不使用 TransformerLens 的情况下移除模型拒绝行为,属于概念验证实现。该模型安全过滤大幅减弱,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接投入生产或面向公众的商业应用。

  8. Hugging Face · 新模型:abliterated22

    Huihui-GLM-5.3-Flash-abliterated 模型在 Hugging Face 上提供 Transformers、llama.cpp、vLLM 等多框架使用指南

    0xSojalSec 在 Hugging Face 发布 Huihui-GLM-5.3-Flash-abliterated,支持 image-text-to-text 任务,提供 UD-Q4_K_XL 量化版本。页面给出 Transformers pipeline、llama.cpp、vLLM、SGLang、Ollama、Docker 等多种部署方式的完整命令,可通过 OpenAI 兼容 API 本地运行该模型。

  9. Hugging Face · 新模型:abliterated22

    0xSojalSec 发布 GLM-5.3-Flash-abliterated 模型

    Hugging Face 上架了 0xSojalSec/GLM-5.3-Flash-abliterated,一个 abliterated(去抑制)版本的 GLM-5.3-Flash 多模态模型,支持 image-text-to-text 任务。页面给出 Transformers、llama.cpp(UD-Q4_K_XL 量化)、vLLM、SGLang、Ollama、Docker 等多种本地与服务器部署方式,并提供 OpenAI 兼容 API 调用示例。

  10. Hugging Face · 新模型:uncensored56

    Qwen3.8-Flash-Next-Uncensored 2-bit MLX 量化版发布,附 DFlash2 加速与 M1 Max 实测

    3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化版,目标模型采用 affine 2-bit/group-128 重建,搭配 Inco AI 的 BF16 DFlash2 草稿模型,完整下载 74.048 GB。在 M1 Max 64 GiB 实测中,代码与数学 warm 解码达 37.62 和 33.69 tokens/s,约为基线的 1.70× 和 1.56×,文本仅 1.048×;固定 50 题 GSM8K 子集全部答对且与原生参考一致,进程峰值内存 42.12 GiB。

    推荐理由:作者实测了 M1 Max 上代码与数学解码的加速倍数和内存峰值,并给出 32/48/64 GiB 的可行性判断,便于评估本地部署。

  11. Hugging Face · 新模型:uncensored48

    Qwen3.8-Flash-Next-Uncensored MLX 2/8-bit 优化转换包发布

    Hugging Face 用户 3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化转换包,基于 360 GB BF16 源检查点,专家投影采用 affine 2-bit/group128,其余投影为 8-bit/group64,文件约 72.8 GB。验证含 50 题 GSM8K 子集、烟雾测试(15/18 通过)及文本生成约 23.5 tokens/s 的计时结果;模型采用原生 qwen4_exp 多模态实现,可配合 run_qwen38_unsloth.py 以 16384 上下文运行。

  12. Hugging Face · 新模型:uncensored34

    Qwen3.5-4B-Uncensored-HauhauCS-Aggressive 发布:4B 无拒绝无损去审查版模型

    HauhauCS 发布 Qwen3.5-4B 的去审查版 Uncensored-HauhauCS-Aggressive,移除全部 465 个拒绝样本,实现完全无审查且能力无损,模型不会拒绝提示词。其提供 BF16 到 Q4_K_M 等多种 GGUF 量化(7.9 GB 至 2.6 GB),原生支持文本、图像、视频多模态,262K 上下文(可用 YaRN 扩展到 1M),可在 llama.cpp、LM Studio、Jan 等运行时加载。

10月25日周日
  1. Hugging Face · 新模型:abliterated24

    Qwen3.8-Flash-Next-Abliterated Sushi 3bpw 实验性量化版本发布

    sanasol2008 基于 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 BF16 权重制作了 Sushi 格式 3bpw 实验性量化包,路由专家采用 EXL3 K3 编码,未额外做 abliteration 或微调。完整下载约 79.22 GiB,在 Apple M3 Max 48 GiB 上冷解码 11.88 tok/s、热解码 12.88 tok/s,慢于 2bpw 版本;校准误差相对 2bpw(相对 Frobenius 误差 0.029 对 0.064)更低,支持 262144 上下文配置上限。

  2. Hugging Face · 新模型:abliterated41

    Huihui-DeepSeek-V4.1-Flash-1017-abliterated GGUF 版本发布

    huihui-ai 基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 发布 abliterated 去审查版本,完全用 llama.cpp 的 GGUF 完成 abliteration,未依赖 Transformers。仅 abliterate 第 11 至 28 层(0 起始索引)的 18 个 attn_output_b 张量,专家系统未改动;UD 系列来自 unsloth 的 GGUF。模型安全过滤大幅降低,建议用于研究或受控环境,支持 262144 上下文长度。

  3. Hugging Face · 新模型:uncensored37

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    l666A 基于 Qwen/Qwen-Image-2.1 上游权重发布 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成,Q4_K_M(4.60 GB)为推荐的 GGUF 量化方案。该版本不含内置安全检查器,可直接生成成人、NSFW 及敏感图像,支持 ComfyUI 与 ComfyUI-GGUF,文本编码器卸载到系统内存可节省 9–17 GB 显存。

  4. Hugging Face · 新模型:abliterated68

    Qwen3.8-Flash-Next-FP4-Local-Abliterated 发布:不改权重、推理时去对齐

    lesj0610 发布基于 nvidia/Qwen3.8-Flash-Next-FP4-Local 的 abliterated 版本,权重文件与基座逐字节一致,仅靠 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影。625 条有害提示的拒绝短语命中从基座 97.92% 降到 0.16%,MMLU 较基座低 1.30 分,GSM8K 无显著变化;需 vLLM 0.32.1rc0 以上版本,拒绝行为仅在英文下测试,视频能力未评测。

    推荐理由:原文给出拒绝率、MMLU/GSM8K 与基座的对照数据,并解释了为什么对 FP4 量化权重选择推理时投影而非直接改权重。

  5. Hugging Face · 新模型:uncensored49

    Qwen3.8-27B-Uncensored 发布 MLX 5.0 bpw 混合精度量化版

    Hugging Face 上发布 orcarouter/Qwen3.8-27B-Uncensored 的 MLX 5.0 bpw 仿射量化版,体积 17.38 GB,比 bf16 小 3.2 倍,针对 M5 的 NAX 张量单元调优。模型保留 256 K 上下文、MTP 头与视觉塔,48 个注意力模块经 GPTQ 量化后中位数输出误差降低 32%。以 Apache-2.0 许可开源,需通过 oMLX 运行。

  6. Hugging Face · 新模型:abliterated25

    mradermacher 发布 Ornith1.0-9B-3MPER0RR-abliterated GGUF 量化模型

    Hugging Face 用户提供 mradermacher/Ornith1.0-9B-3MPER0RR-abliterated-GGUF 模型(Q4_K_S 量化版),可在 llama.cpp、Ollama、Docker Model Runner 等多种本地工具中运行。文档给出 macOS、Linux、Windows 各平台的安装与启动命令,支持通过 llama serve 启动 OpenAI 兼容本地服务器或直接在终端推理,还覆盖 LM Studio、Pi、Hermes Agent、OpenClaw 等客户端配置方法。

  7. Hugging Face · 新模型:abliterated37

    Huihui-Qwen3.8-27B-abliterated-GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布基于 Qwen/Qwen3.8-27B 的 abliterated 去审查 GGUF 版本,通过 abliteration 技术移除模型拒绝回答的行为,仅消融部分层(如第 22 至 52 层,0 起始索引),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化,其中需消融的权重已转为 Q8_0 或 BF16 以提升回复质量,支持 262144 上下文长度,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行。模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  8. Hugging Face · 新模型:abliterated38

    Qwen3.8-Flash-Next DS4 Mixed-Q3-64GB abliterated v2 GGUF 发布

    Krissaito470 发布 Huihui 的 Qwen3.8-Flash-Next abliterated v2(去审查版)的 DS4 GGUF,采用 Mixed-Q3-64GB 布局,文件 143.3 GiB,常驻权重 47.96 GiB,可在 64 GB Mac 运行。v2 未消融任何专家张量,仅以 96 个 Q8_0 张量覆盖基础文件;8K 上下文下解码 68.9 tok/s,MTP 开启时代码生成达 102.8 tok/s。内存占用约 49-54 GiB(8K-131K ctx),需支持 BF16 n-gram 的 DwarfStar 构建。

  9. Hugging Face · 新模型:abliterated58

    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据

    作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。

    推荐理由:作者用拒绝率、KL 散度和解码速度实测了运行时去拒绝向量的效果,数据可直接用于判断这种方案对输出的改动幅度。

  10. Hugging Face · 新模型:uncensored66

    dealignai 发布 GLM-5.3-UNCENSORED-FP8 无对齐权重版并修复推理循环问题

    dealignai 在 Hugging Face 发布 GLM-5.3-FP8 的全谱系无对齐版本,通过直接修改 bf16 residual-writer 张量实现权重级去审查,不使用微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HarmBench-320 上 GARBAGE 从 7 降至 0,非版权 240 项行为 TRUE_COMPLY 达 91.7%(off),MMLU 87.43% 较基线 +1.85pp。附 vLLM TP8 部署配置,注意 reasoning_effort 仅支持 low/high,high/max 需 max_tokens ≥ 8000。

    推荐理由:原文给出权重级去对齐的具体做法和 HarmBench-320、MMLU 前后对比数据,读者可据此评估该版本的去对齐程度与能力损失。

  11. Hugging Face · 新模型:uncensored60

    zugquants 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版,8bit ARC-C 达 735

    zugquants 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段去对齐微调 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供含 MTP 版本的 NEO imatrix GGUF 量化。作者称 8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,全部 7 项基准超过基座 Qwen3.8-27B,思考 token 减至基座的 1/2 至 1/10;用 Heretic v1.2.0 ARA 方法去审查后 100 次测试中拒绝从 99 降至 0,KL 散度 0.0535。

  12. Hugging Face · 新模型:uncensored34

    zugquants 发布 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMAX-MTP GGUF 量化模型

    zugquants 与 Nightmedia 推出基于 Qwen3.5-9B 的多阶段微调合并模型,完全无审查并经 Heretic 后训练,在 4bit 与 8bit 下 ARC-C 达 640,超过 Qwen3.5 9B 全部 7 项 benchmark,部分场景追平 Qwen3.6 27B。提供常规与 MTP 两类 NEO IMATRIX GGUF:Q4_K_S 常规版约 130 t/s,MTP 版(token acceptance 60%)可超 185 t/s;支持 256k 上下文与视觉(需另下 mmproj 文件),含 5 种 reasoning 与 5 种 instruct 模式,可经 API 或聊天内即时切换。

  13. Hugging Face · 新模型:abliterated40

    zugquants 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x-Reasoning-Instruct-GSQ-RCO-GGUF 量化模型

    zugquants 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 abliterated(去审查)GGUF 量化版,参数量 120B,Turbo Brilliance 文中另一处称 180B、512 专家(每 token 激活 10 个),含 27 推理 + 27 instruct 模式(另有 9 个 xhigh)及 15 个 AI Construct。模型可在 12GB 显存 GPU 上运行,2 GPU 加 RAM offload 实测 17 t/s,全 offload 达 60-90 t/s,RTX 6000(96GB)估计 150+ t/s,采用强于 QAT 的 GSQ-RCO 量化并称达 SOTA BF16 级性能。

  14. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 的无对齐消融版 FP8 权重

    dealignai 基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone、8B/16B 激活)发布了权重级消融的无对齐 FP8 版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,无需自定义 model.py 或运行时钩子。HarmBench-320 实测显示 base 模型 effort=off 时 ASR 为 42.81%、effort=max 时仅 1.56%,消融版在两档下均 100% 回答且零拒绝;MMLU-14k 从 86.96% 降至 82.74%(剔除伦理类后约 -1.1 pp)。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  15. Hugging Face · 新模型:uncensored62

    dealinai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包

    dealinai 基于 LibertAI 的 EXL3 2.9bpw 量化包(388 GB)发布 DeepSeek-V4.1-Flash-1017 无对齐版本,移除拒绝行为,支持 6 种语言、131K 上下文、思考模式开关,保留视觉权重、MTP 头和 n-gram 表。实测 MMLU-500 从基线 67.40% 降至 63.20%(−4.20pp),HarmBench-320 聊天与思考模式合规率均 100%,多轮对抗测试 0/5 漂移回拒绝。在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 验证约 68 tok/s 解码、1105 tok/s 预填充,并提醒低比特重量化可能使合规回退,建议在目标精度上重跑 abliteration 流程。

    同一新闻,精选展示《dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包》