跳到正文
今天10月27日周二4 条
  1. Hugging Face · 新模型:abliterated30

    Huihui-Ornith-1.5-35B-A3B-abliterated MTPLX 混合 8/4-bit FP16 量化版发布

    基于 huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated 制作的 MTPLX 混合 8/4-bit FP16 量化版,去除第 11–29 层拒绝行为,采用 4-bit affine(group 32)量化 MoE 专家、8-bit(group 64)量化注意力投影,主干 dtype fp16 并带 MTP sidecar。在 Apple Silicon 上支持原生 MTP 推测解码,M1 Max 64GB 下 D2 调优后达 74.0 tok/s、1.49x 加速;MIT 许可,用 mtplx serve 命令下载运行。

  2. Hugging Face · 新模型:uncensored48

    DeepSeek-V4.1-Flash-1017-UNCENSORED 的 oQ4e-mtp MLX 版本发布,支持 Apple Silicon

    dealignai 的 DeepSeek-V4.1-Flash-1017-UNCENSORED(约 764B 参数 MoE、1M 上下文)推出 oMLX oQ4e 量化版,约 432 GB,保留 MTP 头与 Engram 量化,需 512 GB Mac 运行。MMLU-Pro 80.3、GSM8K 96.0、HumanEval 92.7,与官方权重版差距在几分以内,SafetyBench 76.3 因移除拒答而下降。Mac Studio M3 Ultra 上解码约 29 tok/s,MIT 许可。

  3. Hugging Face · 新模型:uncensored31

    Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes GGUF 发布

    burningfeet 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes GGUF,基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 底座,并将 Hermes 微调数据(约 2k 块、来自两个 FFN expert 张量)迁移而来。该模型经 Genesis 后训练张量修复处理,基于 Marchenko–Pastur 分布降噪,保留 99% 信号与学习梯度。规格为 35B 总参数、MoE 每次前向约 3B 激活、256 专家(8 路由 + 1 共享)、262K 原生上下文(YaRN 可扩展至 1M),推荐 APEX 或 NVFP4 量化并保持至少 128K 上下文。

  4. Hugging Face · 新模型:abliterated48

    jaromer 发布 Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF(IQ3_S 等 4 档量化)

    jaromer 在 Hugging Face 发布 abliterated 版 Qwen3.8-Flash-Next GSQ-RCO GGUF,通过张量移植移除拒答方向,不重算任何 GSQ 学习到的量化值,保留 262K 上下文与 APACHE-2.0 许可。IQ3_S 版 83.86 GB,四档(IQ3_S/IQ3_XXS/IQ2_XS/Q2_0)均逐张量 blake2b 校验,每档仅比上游多 0.25–0.44 GB;模型无内置安全护栏,部署时需自行提供审核。

10月26日周一
  1. Hugging Face · 新模型:uncensored50

    Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced 发布:去审查版 Gemma 4 12B GGUF 模型

    HauhauCS 基于 Google DeepMind 官方 Gemma 4 12B QAT 权重发布去审查版 GGUF 模型,0/465 拒答,不改动数据集与能力。Balanced 版针对 agentic coding、推理与创意写作调优,内置 MTP 投机解码头可提速约 60%,Q4_K_M 量化 6.9 GB,支持 256K 上下文与 mmproj 图像输入,兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  2. Hugging Face · 新模型:uncensored60

    XTer123 发布 Nanbeige4.3-33B-Uncensored GGUF 去对齐版本

    XTer123 基于 Heretic 的拒绝方向消融方法,将 Nanbeige4.3-33B 去对齐并量化为 Q5_K_M GGUF,无微调与新训练数据,104 个可消融矩阵中仅改 59 个,抽查张量与基座逐位一致。在其 100 条提示词测试集上,基座模型拒绝 98 次,该版本拒绝 26 次,KL 散度为 0.0224;聊天模板未改动,支持 262144 token 上下文配 4-bit KV cache,附带 rank-3 delta adapter 可重建权重,License 为 Apache-2.0。

    推荐理由:原文给出拒绝方向消融方法与 98 比 26 的拒绝率对比和 KL 散度数据,可据此判断这个去对齐版本改动幅度。

  3. Hugging Face · 新模型:abliterated35

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:去审查版 Qwen3.8-27B

    huihui-ai 基于 Qwen/Qwen3.8-27B 发布去审查(abliterated)版本 Huihui-Qwen3.8-27B-abliterated-GGUF,仅消融第 22 至 52 层(0 起始索引),MTP 与视觉部分未改动。多个系列(Underdog-Saluki、Swift、Ternary、GSQ-RCO、UD 等)陆续追加,部分量化将 token_embd、output、ffn_down 等待消融权重转为 Q8_0 并命名为 Q2_K_L 至 Q6_K_L。模型可通过最新版 ollama 运行 huihui_ai/Qwen3.8-abliterated,llama.cpp 支持上下文长度 262144,官方提示输出可能含敏感内容,建议用于研究测试场景。

  4. Hugging Face · 新模型:uncensored70

    dealinai 发布 GLM-5.3-Flash 无审查 FP8 权重,HarmBench-320 零拒绝且 MMLU 反超基线

    dealinai 以 CRACK 方式对 GLM-5.3-Flash 做权重级去审查并发布 FP8 版本(320B 总参数、18B 激活、1M 上下文),直接在张量中移除拒绝行为,不用 SFT、DPO、LoRA 或模板技巧。HarmBench-320 上 reasoning-OFF 和 max 档 320/320 全通过、0 拒绝(low 档保留部分拒绝),MMLU 87.33% 高于基线 86.74%;H200 TP4 原生 FP8 解码 163 tok/s,开启 MTP 投机解码达 211 tok/s、接受率 75.9%。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  5. Hugging Face · 新模型:uncensored66

    FLUX 3 Image Klein 提示词扩展器无对齐版发布,英文拒绝率从 63% 降到 0%

    AtomicChat 基于 BFL 的 FLUX 3 Image Klein 提示词扩展器(9B Qwen3.5 微调)投影移除拒绝方向,发布 llama.cpp 可用的 GGUF 权重及 3MB LoRA 版本。作为聊天模型,held-out 提示词上英文拒绝率从 63% 降至 0%,俄语从 29% 降至 1%,MMLU 从 74.15% 微降至 73.95%,工具调用与长文本检索不受影响;作为 upsampler 时在 35 条敏感请求中比原版多保留 2 条内容,但 Klein 图像模型本身不画这两类,出图无可见去审查效果。

    同一新闻,精选展示《AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版》

  6. Hugging Face · 新模型:abliterated34

    Huihui-Qwen3.8-27B-abliterated-GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术移除拒绝行为,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,其余层保持不变,并提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144。模型安全过滤大幅降低,建议用于研究测试环境。

  7. Hugging Face · 新模型:uncensored50

    Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP GGUF 发布

    HauhauCS 发布 Qwen3.8-27B 无审查 Aggressive 变体的 GGUF 量化版本,0/465 拒答,直接作答且几乎无前导语。该版本附带 HauhauCS FastMTP 32K 加速 sidecar,在 Q8_K_P 下相比禁用 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG,比标准内嵌 MTP 高 35.2% 和 21.1%。模型保留文本、推理、agentic、图像与视频能力,原生 262,144-token 上下文,可扩展至 1,000,000,兼容 llama.cpp 等标准 GGUF 运行时。

  8. Hugging Face · 新模型:uncensored38

    Gptsn/Llama-3.2-3B-Instruct-uncensored-GGUF 量化版本发布

    基于 unsloth/Llama-3.2-3B-Instruct 的去审查微调模型推出 GGUF 量化版本,abliteration 后 KL 散度仅 0.0265,测试中 100 次拒绝仅 4 次,并保留多语言能力。提供 Q4_K_M(2.02GB)、Q5_K_M(2.32GB)、Q8_0(3.42GB)和 f16(6.43GB)四种量化,可在 LM Studio 或 Ollama 中加载使用。

  9. Hugging Face · 新模型:abliterated36

    Huihui-Kolibri-1-BF16-abliterated-GGUF:Aleph-Alpha Kolibri-1-BF16 的无审查版

    huihui-ai 基于 Aleph-Alpha/Kolibri-1-BF16 制作了 abliterated 无审查版本,全程用 llama.cpp 的 GGUF 完成,不依赖 Transformers。已用 llama.cpp 重新量化并上传 Q2、Q3、Q4、Q5、Q6、Q8 和 BF16 版本。原版 llama.cpp 暂不支持 kolibri1 架构,需应用仓库内提供的补丁并检出 commit 836d571 后编译。

  10. Hugging Face · 新模型:uncensored48

    Qwen3.8-Flash-Next-Uncensored 发布 UD-Q4_K_XL 量化版(GGUF)

    Hugging Face 用户发布 Qwen3.8-Flash-Next 越狱版(orcarouter/Qwen3.8-Flash-Next-Uncensored)的 UD-Q4_K_XL 风格量化,复刻官方 Unsloth 类型表,主干 5.03 BPW、总计 108.39 GiB,附带 MTP draft head(Q8_0)与视觉塔(BF16),原生上下文 262,144,Apache-2.0。在 AMD Strix Halo 上以 Gufo 与 Halogen 实测 decode 32~40 tok/s,MTP 推测解码正常;缺 MTP head 会静默关闭推测解码,吞吐掉 30%+。

  11. Hugging Face · 新模型:abliterated60

    KaedeTai 发布 occamy-1.0-abliterated 的 MLX 4-bit 量化版并移植 MTP 草稿头

    KaedeTai 将 SC117 制作的 abliterated 版 Occamy-1.0 从 BF16 GGUF 反向转回 HF 布局并量化为 MLX 4-bit,约 20 GB。仓库装回 Accio-Lab 原版的 vision tower,并从 KaedeTai/Ornith-1.5-35B-A3B-BigBang-MTP-zh-mlx-4bit 原样移植 MTP 草稿头;该头在 Occamy 上草稿接受率达 65.6%(每周期 2.13 个 token),高于其原本干的 Ornith 主干的 64.9%。作者用逐张量逆变换脚本还原 llama.cpp 转换改动,42 个对照张量中 40 个与未去对齐基座逐位一致,其余两个正是消融所改的矩阵。

    推荐理由:作者给出了逐张量校验和同机对照的 TMMLU+ 分数,可以核对这套 GGUF 转 MLX 加移植 MTP 头的转换质量与速度收益。

  12. Hugging Face · 新模型:abliterated20

    Hugging Face 上架 abliterated 量化模型 llm-qwen3.8-flash-next-abliterated-iq4xs

    abliterated 版模型 yuanyeyuanye/llm-qwen3.8-flash-next-abliterated-iq4xs(UD-IQ4_XS 量化)现可通过 llama.cpp 加载,支持 llama serve 启动兼容 OpenAI 的本地服务器与 llama cli 终端推理。模型也可经 Ollama、Docker、Lemonade 拉取运行,并能接入 Pi、Hermes、OpenClaw 等工具,覆盖 macOS、Linux 与 Windows 平台。

  13. Hugging Face · 新模型:uncensored60

    dealignai 发布 Nanbeige4.3-33B 的 UNCENSORED GGUF 量化版本

    dealignai 在 Hugging Face 发布 Nanbeige4.3-33B 的 UNCensored GGUF 版本,移除基础模型的拒绝行为,提供 Q6_K(25.3 GB)、Q4_K_M(18.7 GB)、IQ2_XXS(8.7 GB)三种量化,均附带基于 1M token 校准内容的 imatrix,保留原生 think on/off 与 512K 上下文。与同量化基础版对比,MMLU chat 下降 Q6_K −1.74pp、Q4_K_M −1.09pp、IQ2_XXS −4.53pp;6 提示多轮合规测试三个量化均为 6/6 通过、0 次拒绝。

    推荐理由:原文给出三种量化的 MMLU 前后对照和多轮拒绝率实测,读者可据此评估去掉拒绝行为的能力代价。

  14. Reddit · r/LocalLLaMA16

    Swift 1.5 Qwen Flash Next IQ3XXS(GSQ RCO)Abliterated 版能否只下载变化的权重?

    一位 r/LocalLLaMA 用户在运行 Swift 1.5 Qwen Flash Next 的 GSQ RCO IQ3XXS 量化版本,但因模型偶尔拒答,想再准备一个 Abliterated 版本,仅在少数场景下使用。由于存储空间只剩不到 1TB,他询问能否只下载两个版本之间变化的权重并合并,避免完整双份下载。

  15. Hugging Face · 新模型:abliterated58

    Nanbeige4.3-33B 网络安全去对齐 GGUF 版发布,拒绝率从 80% 降到 8%

    FRENCHFAKER 发布首个 abliterated 版 Nanbeige4.3-33B GGUF,用 refusal-direction ablation 移除原始模型对进攻性安全请求的拒绝行为。50 条有害提示词基准上拒绝率从 80%(40/50)降至 8%(4/50),安全/渗透测试类提示词拒绝率约 0%,推理与工具调用保持完整;IQ4_XS 量化约 17 GB,可在单张 24 GB GPU 上以约 33 tok/s 运行,基于 Apache-2.0 许可。

    推荐理由:原文给出拒绝率前后对照和逐层消融方法,读者可据此评估这个去对齐版本的可靠程度。

  16. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 Uncensored 量化版本发布,支持 ComfyUI 本地图像生成

    Sagarkun 发布 Qwen-Image-2.1 Uncensored 的多格式量化版本,基于 Qwen/Qwen-Image-2.1 原始权重,提供 GGUF、Safetensors 和 MLX 格式,其中 Q4_K_M GGUF 仅 4.60 GB 且被推荐为体积与质量的最佳平衡。该版本无内置安全检查或内容过滤,可直接生成成人及敏感图像;文本编码器可卸载至系统内存以节省 9–17 GB VRAM,需搭配 ComfyUI 与 ComfyUI-GGUF 使用,采用 Qwen Research License。

10月25日周日
  1. Hugging Face · 新模型:abliterated41

    Huihui-DeepSeek-V4.1-Flash-1017-abliterated GGUF 版本发布

    huihui-ai 基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 发布 abliterated 去审查版本,完全用 llama.cpp 的 GGUF 完成 abliteration,未依赖 Transformers。仅 abliterate 第 11 至 28 层(0 起始索引)的 18 个 attn_output_b 张量,专家系统未改动;UD 系列来自 unsloth 的 GGUF。模型安全过滤大幅降低,建议用于研究或受控环境,支持 262144 上下文长度。

  2. Hugging Face · 新模型:uncensored37

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    l666A 基于 Qwen/Qwen-Image-2.1 上游权重发布 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成,Q4_K_M(4.60 GB)为推荐的 GGUF 量化方案。该版本不含内置安全检查器,可直接生成成人、NSFW 及敏感图像,支持 ComfyUI 与 ComfyUI-GGUF,文本编码器卸载到系统内存可节省 9–17 GB 显存。

  3. Hugging Face · 新模型:abliterated37

    Huihui-Qwen3.8-27B-abliterated-GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布基于 Qwen/Qwen3.8-27B 的 abliterated 去审查 GGUF 版本,通过 abliteration 技术移除模型拒绝回答的行为,仅消融部分层(如第 22 至 52 层,0 起始索引),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化,其中需消融的权重已转为 Q8_0 或 BF16 以提升回复质量,支持 262144 上下文长度,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行。模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  4. Hugging Face · 新模型:abliterated38

    Qwen3.8-Flash-Next DS4 Mixed-Q3-64GB abliterated v2 GGUF 发布

    Krissaito470 发布 Huihui 的 Qwen3.8-Flash-Next abliterated v2(去审查版)的 DS4 GGUF,采用 Mixed-Q3-64GB 布局,文件 143.3 GiB,常驻权重 47.96 GiB,可在 64 GB Mac 运行。v2 未消融任何专家张量,仅以 96 个 Q8_0 张量覆盖基础文件;8K 上下文下解码 68.9 tok/s,MTP 开启时代码生成达 102.8 tok/s。内存占用约 49-54 GiB(8K-131K ctx),需支持 BF16 n-gram 的 DwarfStar 构建。

  5. Hugging Face · 新模型:abliterated58

    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据

    作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。

    推荐理由:作者用拒绝率、KL 散度和解码速度实测了运行时去拒绝向量的效果,数据可直接用于判断这种方案对输出的改动幅度。

  6. Hugging Face · 新模型:uncensored36

    zugquants 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x-Reasoning-Instruct-GSQ-RCO-GGUF 量化模型

    zugquants 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO GGUF 量化版,为 120B/180B 参数、512 专家(每 token 激活 10 个)的无审查 abliterated 模型。内置 Turbo Brilliance 系统含 27 种 reasoning、27 种 instruct 模式及 15 个 AI CONSTRUCTS,可在提示词或 API 中即时切换。实测 46 GB 双 GPU 加 RAM offload 达 17 t/s,全 GPU offload 60-90 t/s,12GB 显存起可运行。

  7. Hugging Face · 新模型:uncensored60

    zugquants 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版,8bit ARC-C 达 735

    zugquants 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段去对齐微调 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供含 MTP 版本的 NEO imatrix GGUF 量化。作者称 8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,全部 7 项基准超过基座 Qwen3.8-27B,思考 token 减至基座的 1/2 至 1/10;用 Heretic v1.2.0 ARA 方法去审查后 100 次测试中拒绝从 99 降至 0,KL 散度 0.0535。

  8. Hugging Face · 新模型:uncensored34

    zugquants 发布 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMAX-MTP GGUF 量化模型

    zugquants 与 Nightmedia 推出基于 Qwen3.5-9B 的多阶段微调合并模型,完全无审查并经 Heretic 后训练,在 4bit 与 8bit 下 ARC-C 达 640,超过 Qwen3.5 9B 全部 7 项 benchmark,部分场景追平 Qwen3.6 27B。提供常规与 MTP 两类 NEO IMATRIX GGUF:Q4_K_S 常规版约 130 t/s,MTP 版(token acceptance 60%)可超 185 t/s;支持 256k 上下文与视觉(需另下 mmproj 文件),含 5 种 reasoning 与 5 种 instruct 模式,可经 API 或聊天内即时切换。

  9. Hugging Face · 新模型:abliterated40

    zugquants 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x-Reasoning-Instruct-GSQ-RCO-GGUF 量化模型

    zugquants 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 abliterated(去审查)GGUF 量化版,参数量 120B,Turbo Brilliance 文中另一处称 180B、512 专家(每 token 激活 10 个),含 27 推理 + 27 instruct 模式(另有 9 个 xhigh)及 15 个 AI Construct。模型可在 12GB 显存 GPU 上运行,2 GPU 加 RAM offload 实测 17 t/s,全 offload 达 60-90 t/s,RTX 6000(96GB)估计 150+ t/s,采用强于 QAT 的 GSQ-RCO 量化并称达 SOTA BF16 级性能。

  10. Hugging Face · 新模型:uncensored62

    dealinai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包

    dealinai 基于 LibertAI 的 EXL3 2.9bpw 量化包(388 GB)发布 DeepSeek-V4.1-Flash-1017 无对齐版本,移除拒绝行为,支持 6 种语言、131K 上下文、思考模式开关,保留视觉权重、MTP 头和 n-gram 表。实测 MMLU-500 从基线 67.40% 降至 63.20%(−4.20pp),HarmBench-320 聊天与思考模式合规率均 100%,多轮对抗测试 0/5 漂移回拒绝。在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 验证约 68 tok/s 解码、1105 tok/s 预填充,并提醒低比特重量化可能使合规回退,建议在目标精度上重跑 abliteration 流程。

    同一新闻,精选展示《dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包》

  11. Hugging Face · 新模型:abliterated74

    RecursiveSI Flint 40B-A2.5B 去对齐版发布,MITRE 拒绝率从 15% 降至 0%

    RecursiveSI 的 Flint 40B-A2.5B 去对齐版本发布,用 abliterix 从 attention、共享与路由专家投影中移除拒绝方向,Optuna 在 100 条 MITRE 提示词上选强度。保留的 MITRE 拒绝率从 15% 降至 0%(n=100,Q8_0),无害提示词 KL 散度 0.0146 nats/token,HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,pp512/tg128 速度变化在 3% 以内。

    推荐理由:原文给出消融方法与拒绝率前后对照,MITRE 拒绝从 15% 降到 0% 且各基准无显著下降,便于评估该去对齐版本的取舍。

  12. Hugging Face · 新模型:uncensored30

    Qwen-Image-2.1-Uncensored 量化版本发布,支持本地无审查图像生成

    Hugging Face 用户发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化模型仓库,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,用于本地图像生成。该版本内置无安全检查器或内容过滤,可直接生成成人及 NSFW 图像;推荐 GGUF 使用 Q4_K_M(4.60 GB),MLX 格式针对 Apple Silicon 优化,需配合 ComfyUI 与配套的 qwen3vl_8b 文本编码器和 VAE 文件使用。

  13. Hugging Face · 新模型:uncensored56

    DeepSeek-V4.1-Flash-1017 的无对齐 FP8 权重版发布

    dealignai 发布了基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 的去拒绝版本 DeepSeek-V4.1-Flash-1017-UNCENSORED-FP8,仅做权重级 abliteration,不用量化、模板改写或系统提示注入。保留原生 FP8 e4m3 + FP4 专家、1M 上下文、多模态、工具调用与推理档位,与上游字节兼容可直接加载。自测 HarmBench-320 全部 320 条 COMPLY 无任何拒绝,MMLU 20×57 从 87.63% 降到 83.77%, Humanities 降幅最大达 -7.31 pp。附 4×H200 参考引擎运行方法与 SGLang 启动参数,仓库手动门控,MIT 许可。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 题全部合规》

  14. Hugging Face · 新模型:abliterated72

    DeepSeek-V4.1-Flash-1017 去对齐版发布 GGUF 量化构建

    10exdev 发布 DeepSeek-V4.1-Flash-1017 去对齐(abliterated)版本的 GGUF 量化构建,提供 235.8 GB 的 Mix-256G 与 114.0 GB 的 Mix-128G 两种混合精度档位。拒绝率加权均值从基座的 0.874 降到 0.074,MMLU 保持 0.91 左右;需 llama.cpp PR #30817 才能加载,Engram 表存于 SSD。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑》

  15. Hugging Face · 新模型:uncensored46

    SmolLM3-3B-Heretic-Uncensored GGUF 量化版发布

    virtualdmns 的 SmolLM3-3B-Heretic-Uncensored(用 Heretic 移除拒绝行为的 SmolLM3-3B)现提供 GGUF 格式,含 Q8_0(约 3.28 GB)和 Q4_K_M(约 1.92 GB)两种量化,chat template 已嵌入文件并支持 /think 与 /no_think 模式。经 llama.cpp 加载测试可正常生成、无拒绝行为,源权重重新评测显示拒绝率 3/100(原版基线 82/100),KL 散度 0.0684。可通过 llama.cpp、LM Studio 或 Ollama 运行,采用 Apache-2.0 许可。

10月24日周六
  1. Hugging Face · 新模型:abliterated34

    Flint-40B-A2.5B FP8 去审查版(Abliterated)量化模型发布

    Hugging Face 上发布 Flint-40B-A2.5B 的 abliterated 去审查版 FP8 量化模型,采用 LLM Compressor FP8_DYNAMIC 格式,保留 295 个 BF16 保护张量,并用 98 个校准 BF16 KV scale 覆盖全部 49 个注意力层。校准基于 HuggingFaceH4/ultrachat_200k 数据集 train_sft 前 512 行样本(共 543,281 token),上游 abliteration 已减少拒答行为,输出仍应视为不可信。该模型仅供研究用途,GPU 推理与 benchmark 尚未验证。

  2. Hugging Face · 新模型:uncensored32

    Abiray 发布 DeepSeek-V4.1-Flash-1017 去审查版 GGUF(IQ2_XXS,权重内置无需 LoRA)

    Abiray 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的去审查(abliterated)GGUF 版本,基于 ISTA-DASLab 的 IQ2_XXS 量化,将 86 个去审查残差写入张量直接烘焙进权重,运行时无需 LoRA。体积仅增加 0.34 GB(138.58 GB vs 138.24 GB),28 个 1-bit IQ1_M GSQ 专家层 100% 保留,KL 散度仅 0.000002 nats,Top-5 一致率 100%。需搭配 ISTA-DASLab 的 110.60 GB Engram 查找文件,可用 Strata 在单张 12 GB+ NVIDIA GPU 上运行。

  3. Hugging Face · 新模型:uncensored36

    Jamer69 发布 Qwen-Image-2.1-Uncensored 量化版本

    Jamer69 在 Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,推荐 GGUF 使用 Q4_K_M(4.60 GB)。该版本无内置安全检查或内容过滤,可直接生成成人、NSFW 及敏感图像,配套 qwen3vl_8b 文本编码器和 VAE 文件,通过 ComfyUI 与 ComfyUI-GGUF 使用,MLX 格式针对 Apple Silicon 优化。

  4. Hugging Face · 新模型:abliterated73

    DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑

    ktobik 在 Hugging Face 发布 abliterated(去拒绝)版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化,提供 Mix-256G(235.8 GB 内存)与 Mix-128G(114.0 GB)两种构建。模型为 763B 参数 MoE,含 384 个路由专家和 197B 参数 Engram n-gram 表(110.6 GB 留在 SSD 按需读取),1M token 上下文。精度由实测 KLD 的背包搜索逐层分配,Mix-256G 在 held-out 文本上 top-1 一致率 93.7%、PPL 较原模型 +2.4%。

    推荐理由:原文给出实测 KLD、拒绝率前后对比和逐层精度搜索方法,读者可据此判断去对齐版本与量化方案的实际代价。

  5. Hugging Face · 新模型:abliterated69

    DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,附实测拒绝率与精度数据

    Orca 发布 abliterated 版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化文件,提供 Mix-256G(235.8 GB)与 Mix-128G(114.0 GB)两种构建。模型为 763B 参数 MoE,含 197B 参数 Engram n-gram 表(110.6 GB,留在 SSD 按需读取)和 1M token 上下文;精度按实测 KLD 逐层搜索分配。去对齐版在 500 条有害提示上拒绝率均值 0.074(原版 0.874),JBB-harmful 下降 97%,MMLU 保持 0.91 左右;Mix-256G 在 2×H200 上约 70 tok/s,需 llama.cpp PR #30817,MIT 许可。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑》