跳到正文
10月13日周二
  1. Hugging Face · 新模型:uncensored36

    Qwen-Image-2.1-Uncensored 量化版本发布:支持 GGUF、Safetensors 与 MLX 格式本地图像生成

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成。Q4_K_M(4.60 GB)为推荐的 GGUF 量化方案,MLX 格式针对 Apple Silicon 优化,模型无内置安全检查器,可直接生成成人及敏感图像。需配合 ComfyUI 和 leejet/ComfyUI-GGUF 使用,文本编码器可卸载到系统内存以节省 9–17 GB 显存。

  2. Hugging Face · 新模型:abliterated70

    MorinoNushi 发布 GLM-5.3-Flash Heretic 消融 LoRA V3,拒绝率降至 10%

    MorinoNushi 发布 GLM-5.3-Flash(320B 总参/18B 激活 MoE,MIT 协议)的去对齐 LoRA 适配器 V3,用 heretic-gguf 对量化 GGUF 权重做 Optuna 优化的方向性消融。有害提示拒绝率从 V2 的 35/140 降至 14/140(10.00%),KL 0.2380 也低于 V2 的 0.3030;适配器约 86 MB,无需改动或重新量化约 160 GB 基座权重,可直接在主线 llama.cpp 上以 --lora 方式加载,不再需要 fork 或补丁。

    推荐理由:原文给出消融方法、拒绝率与 KL 前后对比数据,读者可以据此判断 V3 相对 V2 实际去掉了多少拒绝行为。

  3. Hugging Face · 新模型:abliterated22

    DogEasy 发布 FLUX.2-klein-4B-abliterated-amdnpu:面向 AMD NPU 的去审查版 FLUX.2 [klein] 4B 模型

    DogEasy 在 Hugging Face 发布 AMD FLUX.2 [klein] 4B NPU 模型的 abliterated 改版,将 Qwen3-4B 文本编码器替换为 ponpoke 的 abliterated 版本,导出 ONNX 并量化为 4-bit MatMulNBits(block size 128、非对称),保留原输入/输出接口,经 DirectML/CPU 运行。AMD 优化的 transformer 和 VAE decoder 保持不变,prompt embeddings 为 FP16 [batch, 256, 7680],推理为 4 步蒸馏版,适用于 AMD GenAI-SD (sd-sandbox) 和 Ryzen AI 1.8.0。

  4. Hugging Face · 新模型:uncensored70

    DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF

    DavidAU 团队基于 Qwen/Qwen3.8-27B 发布多阶段微调去对齐版本,用 Heretic v1.2.0 ARA 方法消融后拒绝率从 99/100 降至 0/100,并经两阶段调优。模型自称在 8bit 达 ARC-C 735、ARC-E 882,较原版 Qwen3.8 27B 高 144 分,思考 token 减至原来的 1/2 到 1/10;仓库提供含 NEO imatrix 的常规与 MTP 两种 GGUF 量化(MTP 在 5090 上 Q4_K_S 约 90 t/s),需另行下载 mmproj 文件启用视觉,建议 q4km 以上量化以保障工具调用。

    推荐理由:作者给出 Heretic 消融前后 KL 散度与拒绝率对比和各量化档基准分,可以判断这个去对齐版本的具体改动幅度。

  5. Hugging Face · 趋势模型66

    AutoTrust 发布开源决策模型 JEV-35B 及 NVFP4 量化版

    AutoTrust AI 在 Hugging Face 开源决策模型 autotrust/JEV-35B,基于 Qwen3.5-35B-A3B 微调,Apache-2.0 许可,只做 System 1 决策、不生成文本。Decision Index 0.3 公开套件得分 59.73(JEV-27B-VL 为 53.64),单 B200 中位延迟 204 ms;同时放出 NVFP4 版本,下载 25.6 GB、显存 23 GiB,可在 32–48 GB GPU 上运行,Decision Index 得分 59.18、96.6% 答案与 bf16 一致。

    推荐理由:模型卡给出 Decision Index 公开套件逐项分数、延迟与 NVFP4 量化对照数据,并演示了游戏与机器人控制等短板场景。

  6. Hugging Face · 新模型:uncensored58

    Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored 发布,拒绝率从 86/100 降到 6/100

    DavidAU 系发布基于 Qwen3.8 27B 的 ULTRA HERETIC 无审查版本,主打更强去对齐。原版 Qwen3.8 拒绝率为 86/100,709-L 版为 68/100(KL divergence 0.0025),ULTRA HERETIC 版降至 6/100(KL divergence 0.0397)。该模型含 5 种 thinking 模式和 5 种 instruct 模式,可即时切换,thinking token 用量降至原版的 1/2 至 1/5(最低 1/20);正文附 nightmedia 的 arc/c、arc/e、boolq 等 7 项基准对比数据,GGUF 版计划 2026 年 9 月 15-18 日左右发布,源权重随后放出。

    推荐理由:原文给出 Heretic 去对齐前后的拒绝率对比与 KL divergence 数据,可据此判断这个去对齐版本实际去掉了多少安全对齐。

  7. Hugging Face · 新模型:uncensored74

    Qwen3.8-27B-Uncensored 发布 GGUF 量化权重,MTP 头保留且拒绝行为大幅减少

    JonathanColetti 发布 Qwen3.8-27B 的去对齐 GGUF 量化版本,用 Heretic 移除拒绝方向并保留 MTP 头,100 条有害提示上的拒绝数从基线的 98 降至 12,MMLU 等 4 项基准平均降 0.5 分。提供 IQ2_M 到 Q8_0 共 6 档量化及 noMTP 变体,imatrix 与全套困惑度基线已公开,摘要说明拒绝行为是减少而非消除,接近原拒绝边界处稳定性较低,低比特量化会加剧该问题。

    同一新闻,精选展示《Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100》

  8. Hugging Face · 新模型:uncensored44

    Qwen3.8-27B-Uncensored 的非对称 GPTQ Int4 量化版发布,可单卡跑在 Intel Arc Pro B70 上

    darioooooo0o 发布 orcarouter/Qwen3.8-27B-Uncensored(OrcaRouter 基于 Qwen/Qwen3.8-27B 的 abliterated 微调版)的非对称 GPTQ Int4 量化版,group 128,lm_head、MTP head 和 vision tower 保留 BF16。在 Intel Arc Pro B70 + vLLM XPU v0.31.0 上单卡实现 262,144 token 上下文与视觉、MTP k=4,短提示解码 64-128 tok/s,KL 散度 0.018-0.060、top-1 一致率 94.1%,优于对称 GPTQ Int4 g128 方案。

  9. GitHub · 去对齐工具与仓库42

    LlamaIndex 发布 ParseBench:评估 PDF 解析工具对 AI 智能体可用性的基准

    LlamaIndex 发布 ParseBench,评估文档解析工具将 PDF 转为可供 AI 智能体使用的结构化输出的能力。基准覆盖约 2,000 张人工核验的企业文档页面(保险、金融、政府),按表格、图表、内容忠实度、语义格式、视觉定位五个维度评测,排行榜前十中 LlamaParse Agentic Plus 以 90.20 分居首。数据集已在 HuggingFace 开源,支持 180+ 条 pipeline。

10月12日周一
  1. Hugging Face · 趋势模型64

    NVIDIA 发布 Nemotron 3.5 Super VL 120B-A12B 的 NVFP4 量化版

    NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Super VL 的 NVFP4 量化版本,这是一个 120B 总参数、12B 激活参数的视觉语言模型,采用 Mamba-2 与 MoE 混合架构加 C-RADIO 视觉编码器,支持最高 1M token 上下文和原生 MTP 投机解码。量化通过 BF16 模型的量化感知蒸馏完成,模型卡给出了 BF16 与 NVFP4 在 GPQA-Diamond、SWE-bench Verified、Video-MME v2 等数十项基准上的对照结果,并提供 vLLM、SGLang、TensorRT-LLM 在 DGX Spark、H200、H100、GB200 上的部署配置,许可证为 OpenMDW-1.1,可商用。

    推荐理由:模型卡同时给出 BF16 与 NVFP4 的完整基准对照和多种硬件部署配置,读者可以据此评估量化损失与所需显存门槛。

  2. Hugging Face · 新模型:abliterated18

    shadowdio 发布 Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated GGUF 量化模型

    shadowdio 在 Hugging Face 上架 Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated 的 GGUF 版本,提供 Q4_K_M 量化。该模型可经 Transformers 加载,也支持 llama.cpp 本地起 OpenAI 兼容服务,兼容 Ollama、LM Studio、Docker Model Runner、Lemonade 等工具,并可接入 Pi、Hermes、OpenClaw 等 Agent。

  3. Hugging Face · 新模型:uncensored24

    softwareweaver/GLM-5.3-Uncensored-EXL3 量化版发布

    softwareweaver 发布 GLM-5.3 Uncensored 的 EXL3 量化转换版,源自 dealignai/GLM-5.3-UNCENSORED-FP8,提供 3bpw(307.59 GB)和 6bpw(585.17 GB)两种规格,均保留 MTP 并可选 DFlash2 文件夹。权重采用 ExLlamaV3 的高质量分配,实际码率略高于目标值,需搭配兼容推理软件和足够内存/显存使用。

  4. Hugging Face · 新模型:abliterated28

    Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版本发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,并新增 Underdog-Saluki、Swift、Ternary、GSQ-RCO、UD-DW 等系列,其中部分量化将需消融权重转为 Q8_0 以提升响应质量,MTP 和视觉部分未改动。模型支持最新 ollama(huihui_ai/Qwen3.8-abliterated)和 llama.cpp(上下文 262144),因安全过滤大幅减弱,建议仅用于研究或测试环境。

  5. Reddit · r/SillyTavernAI24

    Bathory-X 实验版模型发布:基于 Gemma 4 26B A4B 的推理 MoE 写作模型

    社区作者发布实验模型 Bathory-X,一个基于 Gemma 4 26B A4B 的推理 MoE 模型,经微调用于散文写作与角色扮演(含 ERP),应已完全无审查。模型融合了多个优秀写作模型的内容,旨在消除常见 AI 写作套路如滥用明喻、三段排比等。作者提供 Transformers 版本与 GGUF 量化,并征集各 backend 的问题反馈与最佳 preset。

  6. Hugging Face · 新模型:uncensored68

    KENIC-1 发布 Qwen-Image-2.1-Turbo 去对齐编码器 GGUF 权重

    AtomicChat 在 Hugging Face 发布 Qwen-Image-2.1-Turbo 的去对齐文本编码器 GGUF,将 Qwen3-VL-8B-Instruct 的拒绝方向投影移除,可作 stable-diffusion.cpp 的 --llm 使用。作为聊天模型,英文有害提示拒绝率从 88.9% 降到 1.2%,俄语从 38% 降到 0%,MMLU 保持 77.35% 不变。在 45 条敏感图像提示上与原版编码器无一翻转,提供 BF16 到 Q2_K 共 7 档量化,AD-Q4_K 画像偏移为普通 Q4_K_M 的一半。

    同一新闻,精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%》

  7. Hugging Face · 新模型:abliterated68

    Swift 1.5 Qwen3.8-Flash-Next NVFP4 去审查替换文件发布,附512剪至256专家的半专家变体

    作者发布 Swift 1.5 Qwen3.8-Flash-Next NVFP4 的去审查替换文件,将拒答方向以 1.5 倍强度从 151 个写入残差流的张量中投影掉,并提供每层专家从 512 个剪至 256 个的 pruned256 变体。逐文件给出 SHA-256 与验证报告,24,576 个专家重新量化后分量约 −0.498;实测在单卡 RTX PRO 6000(96 GB)上用 SGLang 可跑约每秒 1,000–1,200 生成 token,12 个中文政治敏感问题全部完整回答而原版大多拒答或给官方口径短答。未跑通用基准与 pruned256 变体;n-gram 嵌入分片约 102 GB 需从原仓库获取。

    推荐理由:作者给出了逐层投影去除拒答方向的做法和完整验证数据,包括编辑前后分量、量化误差和12题政治敏感问题实测对比,可直接复现。

  8. Hugging Face · 新模型:uncensored74

    DeepSeek-V4.1-Flash GSQ 混合精度量化版发布,单张 RTX 4090 可跑 552B MoE

    IndrasMirror 发布 DeepSeek-V4.1-Flash-GSQ-Uncensored,对 dealignai 的 abliterated 检查点做校准混合量化,552B 参数 MoE 压缩至约 163 GB(152 GiB 专家权重),可在 RTX 4090 24 GB + 90 GB RAM + NVMe 的家用 PC 上运行。量化采用三档专家格式(42.8% 三值、39.2% 2-bit、18.0% 3-bit),与同尺寸均匀 Q2_0 相比输出误差低 17%;held-out 困惑度 5.645(原模型 4.915),top-1 一致率 0.674。实测 Prefill 250 tok/s、Decode 约 26 tok/s(启用 ggml patch 可达 27+)。

    推荐理由:原文完整公开了混合精度量化的校准方法、逐层误差和困惑度数据,并给出在单张 RTX 4090 上复现所需的全套工具与硬件清单。

  9. Hugging Face · 新模型:abliterated24

    Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 上架 Hugging Face

    huihui-ai 在 Hugging Face 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated,这是基于 nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 的去审查(abliterated)版本,通过不依赖 TransformerLens 的概念验证方法移除模型拒答,仅对第 2 至 52 层做了 ablated 处理。模型可用 transformers 库加载,默认以 bfloat16 精度运行,支持可开关的 thinking 模式与流式输出。

  10. Hugging Face · 新模型:abliterated28

    mradermacher 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GGUF 静态量化版本

    mradermacher 在 Hugging Face 上发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GGUF 静态量化版本。提供的量化档位按大小排序,包括 Q2_K(11.0 GB)、Q4_K_S(15.9 GB,标注 fast、recommended),以及 mmproj-Q8_0(0.7 GB)和 mmproj-f16(1.0 GB)的多模态补充文件。weighted/imatrix 量化暂不可用,用户可通过 Community Discussion 申请。

  11. Hugging Face · 新模型:uncensored36

    Qwen-Image-2.1 Uncensored GGUF 量化版本发布

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的无审查 GGUF 量化版本,提供从 BF16(14.23 GB)到 Q4_0(4.15 GB)等多种量化文件,推荐 Q4_K_M 以平衡体积与质量。该版本移除内置安全检查器与内容过滤,可直接生成 NSFW 内容,需配合 ComfyUI 与 ComfyUI-GGUF 使用,仓库内包含 qwen3vl_8b 文本编码器和 VAE 等配套文件。采用 Qwen Research License 授权。

  12. Hugging Face · 新模型:uncensored41

    Qwen-Image-2.1 Uncensored GGUF 量化版本发布,支持 ComfyUI 本地图像生成

    maximUlya 在 Hugging Face 发布 Qwen-Image-2.1 的 Uncensored GGUF 量化版本,基于上游原始权重,提供 BF16、Q4_K_M 等多种量化文件,大小从 4.15 GB 到 14.23 GB 不等,推荐 Q4_K_M(约 4.6 GB)兼顾体积与质量。该版本移除内置安全检查与内容过滤,可直接生成成人及敏感图像,不拒答也不出黑图。需配合 ComfyUI 与 ComfyUI-GGUF(leejet fork)使用,文本编码器卸载到系统内存可节省 9–17 GB VRAM,采用 Qwen Research License。

  13. Hugging Face · 新模型:uncensored22

    bowmanslayer/VeriLoop-E2-Uncensored-GGUF 上架 Hugging Face,附 llama.cpp 等多平台部署指南

    bowmanslayer 在 Hugging Face 发布 VeriLoop-E2-Uncensored-GGUF 模型,提供 Q4_K_M 量化版本。模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等工具在本地运行,并支持 llama serve 启动 OpenAI 兼容 API 服务器,也可接入 Pi、Hermes、OpenClaw 等 Agent。

  14. Hugging Face · 新模型:abliterated28

    Huihui-GLM-5.3-Flash-abliterated GGUF 模型上架 Hugging Face

    Petyx123 在 Hugging Face 发布 abliterated 版本的 Huihui-GLM-5.3-Flash GGUF 模型,提供 UD-Q4_K_XL 量化版本。该模型为图像-文本到文本多模态模型,可在 llama.cpp、vLLM、SGLang、Ollama、LM Studio、Docker Model Runner 等多种推理框架中运行,并支持通过 OpenAI 兼容 API 进行本地部署调用。

  15. Hugging Face · 新模型:abliterated25

    Lexum-J 发布 Qwen3.5-0.8B-Abliterated-V2 i1-GGUF 量化版本

    Lexum-J 在 Hugging Face 上发布 Qwen3.5-0.8B-Abliterated-V2 的 i1-GGUF imatrix 量化合集,提供从 i1-IQ1_S(0.4GB)到 i1-Q6_K(0.7GB)的多种量化文件。其中 i1-Q4_K_S 被标注为最优的尺寸/速度/质量平衡,i1-Q4_K_M 为推荐且快速的选项。同时提供 0.1GB 的 imatrix 文件供用户自行制作量化,静态量化版本另在独立仓库发布。

  16. Hugging Face · 新模型:uncensored27

    Zewsic 发布 diffusiongemma-26B-A4B-it-HERETIC-Uncensored-NVFP4 量化模型

    Zewsic 在 Hugging Face 发布 edwixx/diffusiongemma-26B-A4B-it-HERETIC-Uncensored 的 NVFP4 量化版本,基于 Heretic 修改后的专家权重而非原始 Google 模型。MoE 专家与 dense MLP 采用 NVFP4(W4A4、group size 16),注意力、embeddings、router、vision tower 等保留 BF16,校准使用 ultrachat_200k 的 128 个样本、截断至 2048 token。原生存储需 Blackwell 或更新 GPU,可通过 vLLM 部署,许可证为 Apache 2.0 加 Gemma 4 条款。

  17. GitHub · 3D 生成新仓库41

    Accio-Studio 开源 Web 应用:本地运行 Krea 2 图像生成与 Qwen Image Edit 2.1 图像编辑

    GitHub 新仓库 Accio-Studio 是一个可在自己电脑上运行的 Web 应用,用 Krea 2 生成图像、Qwen Image Edit 2.1 编辑图像,内置便携版 ComfyUI 0.38.0 引擎,无需安装 Python、Node 或 Git。它支持创建与编辑两类任务,包括 Multi-edit(最多 9 张图)、Inpaint 和 Outpaint,可选用 Flux2 Klein 9B(约 19 GB)作为第二编辑模型。安装需约 45 GB 磁盘空间,建议 Nvidia RTX 20 系列及以上 GPU,支持本地及 Cloudflare、zrok、Tailscale 等多种连接模式。

  18. Hugging Face · 新模型:uncensored17

    jirka642/Qwen3.8-27B-Uncensored-Heretic-Native-MTP-Preserved-exl3 量化模型发布

    Hugging Face 用户 jirka642 发布了 llmfan46/Qwen3.8-27B-Uncensored-Heretic-Native-MTP-Preserved 的 EXL3 量化版本,基于 Qwen/Qwen3.8-27B 微调模型。量化使用 ExLlamaV3 1.6.1 转换,提供 4.0、5.0、6.0 bits per weight(MTP4,H6,V6)三种精度。由于原仓库缺少兼容的 preprocessor_config.json,作者改用了 Qwen/Qwen3.8-27B 官方仓库的配置文件。

  19. Hugging Face · 新模型:abliterated57

    Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包发布

    gdeyoung 发布了 huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包,LM 层已消融,n-gram 嵌入表、MTP 头和视觉塔与基座逐字节一致。包内 75,277 个张量为 3bpw、472 个为 5bpw、2 个为 4bpw,大小 84 GB,可在单块 GB10(128GB 统一内存)上以 262,144 token 上下文运行,实测拒绝筛查 20/20 无拒绝、thinking-off 解码约 65 tok/s、226k token 海针测试可召回。模型继承 Qwen Community License 1.0,安全过滤显著减弱,输出责任由使用者承担。

    推荐理由:作者给出消融层的说明、拒绝率实测与完整量化配方,读者可据此复现这个 DGX Spark 上的去对齐部署方案。