跳到正文
10月13日周二
  1. Hugging Face · 新模型:abliterated24

    hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 上架 Hugging Face,附 llama.cpp 等多平台使用指南

    hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 模型已在 Hugging Face 发布,默认量化版本为 Q2_0。文档给出 llama.cpp 的 macOS、Linux、Windows 安装方式及本地 OpenAI 兼容服务器启动命令,并说明在 Ollama、Docker Model Runner、Pi、Lemonade、Hermes Agent、OpenClaw 等工具中加载该模型的具体配置步骤。

  2. Hugging Face · 趋势模型63

    inclusionAI 发布 Ling-3.1-flash 混合推理模型

    inclusionAI 发布 Ling-3.1-flash,一个原生混合推理模型,总参数 560B、每 token 激活 25B,支持 1M token 上下文窗口。模型采用 Hybrid-linear MoE 架构(KDA 与 Gated MLA 混合注意力、512 个专家激活 8 个),在 Terminal-Bench 4.0、SWE-bench Pro、GDPVal-AA V2.1 等 Agent、编码和医疗金融类基准上有提升,并提供了基于开源编码 Agent Pi 构建的 LingCode 评测 harness。官方给出 SGLang(含 MTP 推测解码)和 vLLM 的部署配方,支持 Claude Code 等框架调用。

    推荐理由:官方模型卡同时给出架构规格、多基准评测和 SGLang 与 vLLM 的部署配方,方便读者评估并直接上手这个混合推理 MoE 模型。

  3. Hugging Face · 趋势模型62

    Black Forest Labs 开放 FLUX 3 Image Klein 5.6B 文生图与图像编辑权重

    Black Forest Labs 在 Hugging Face 开放 FLUX 3 Image Klein 权重,这是一个 5.6B 参数的文生图与图像编辑模型,支持最多 10 张参考图,以 Qwen3-VL-4B-Instruct 作为文本编码器。仓库含 BF16 蒸馏版及 FP8、NVFP4 量化变体,B200 上 1024x1024 推理峰值显存 BF16 为 31 GB;蒸馏版 16 步采样供自托管与 BFL API 使用,未蒸馏 Base 版用于微调与 LoRA 训练。模型采用 FLUX Kommunity License v.1.0,年收入低于 500 万美元的 Qualifying Users 可商用输出。

    推荐理由:模型卡同时给出蒸馏与未蒸馏两个检查点的定位、显存占用和许可证门槛,方便自托管者判断选哪个版本。

  4. Hugging Face · 趋势模型72

    Black Forest Labs 发布 FLUX 3 Image Klein 开放权重模型

    Black Forest Labs 在 Hugging Face 发布 FLUX 3 Image Klein Base,一个 5.6B 开放权重文生图与图像编辑模型,支持最多 10 张参考图,文本编码器为 Qwen3-VL-4B-Instruct。该仓库为未蒸馏 base checkpoint,面向微调、LoRA 训练与研究;模型卡强调必须使用提示词上采样器,并给出 BF16/FP8/NVFP4 格式在 B200 上 31/29/26 GB 的峰值显存数据。模型采用 FLUX Kommunity License,非商业使用免费,年收入低于 500 万美元的合格用户可享商业输出例外。

    推荐理由:官方模型卡写清了基础版与蒸馏版的分工、提示词上采样要求和各精度显存占用,方便读者选对 checkpoint 再动手。

  5. Hugging Face · 新模型:abliterated36

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-v2-GGUF:基于 Qwen3.8-Flash-Next 的去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 通过 abliteration 技术制作去审查版 GGUF 模型,v2 版调整了消融重点且未消融任何专家模块。模型适合小说写作和编程,官方演示使用 UD-Q4_K_XL 量化并支持 262144 上下文,兼容最新 llama.cpp 与 Strata。因安全过滤大幅降低,建议仅用于研究测试环境,输出可能含敏感或不当内容,用户需自行审查并承担相应风险。

  6. Hugging Face · 新模型:abliterated32

    taurusduan 发布 Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF 模型

    Hugging Face 上架 taurusduan/Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF 模型,提供 BF16 量化版本。该模型为图像-文本到文本多模态模型,可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner 等多种方式运行,并支持 llama.cpp 和 vLLM/SGLang 的 OpenAI 兼容 API 本地服务。

  7. Hugging Face · 新模型:uncensored21

    Sulphur-2-Prompt-Enhancer-Uncensored-GGUF 模型使用指南

    Hugging Face 上的 BOBBYBONKERSBFD/Sulphur-2-Prompt-Enhancer-Uncensored-GGUF 提供了多种部署方式:可配合 LTX-2 视频生成管线(需搭配 google/gemma-3-12b 文本编码器,支持文生视频与图生视频),也可用 llama.cpp、vLLM、Ollama 等工具以 IQ4_NL 量化版本运行,支持 OpenAI 兼容 API 的本地服务器。

  8. Hugging Face · 新模型:uncensored22

    webmp3/Sakura-Qwen-Image-2.1-PE-T2I-Uncensored-GGUF 模型上线 Hugging Face

    webmp3/Sakura-Qwen-Image-2.1-PE-T2I-Uncensored-GGUF 已在 Hugging Face 上线,提供 Q4_K_M 量化版本,可通过 llama.cpp 运行,支持启动兼容 OpenAI 的本地服务器(llama serve)和终端直接推理(llama cli)。该模型还可用 vLLM、Ollama、Docker Model Runner、Lemonade 等工具部署,并可接入 Pi、Hermes、OpenClaw 等 Agent 使用。

  9. Hugging Face · 新模型:abliterated22

    DogEasy 发布 FLUX.2-klein-4B-abliterated-amdnpu:面向 AMD NPU 的去审查版 FLUX.2 [klein] 4B 模型

    DogEasy 在 Hugging Face 发布 AMD FLUX.2 [klein] 4B NPU 模型的 abliterated 改版,将 Qwen3-4B 文本编码器替换为 ponpoke 的 abliterated 版本,导出 ONNX 并量化为 4-bit MatMulNBits(block size 128、非对称),保留原输入/输出接口,经 DirectML/CPU 运行。AMD 优化的 transformer 和 VAE decoder 保持不变,prompt embeddings 为 FP16 [batch, 256, 7680],推理为 4 步蒸馏版,适用于 AMD GenAI-SD (sd-sandbox) 和 Ryzen AI 1.8.0。

  10. Hugging Face · 新模型:uncensored70

    DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF

    DavidAU 团队基于 Qwen/Qwen3.8-27B 发布多阶段微调去对齐版本,用 Heretic v1.2.0 ARA 方法消融后拒绝率从 99/100 降至 0/100,并经两阶段调优。模型自称在 8bit 达 ARC-C 735、ARC-E 882,较原版 Qwen3.8 27B 高 144 分,思考 token 减至原来的 1/2 到 1/10;仓库提供含 NEO imatrix 的常规与 MTP 两种 GGUF 量化(MTP 在 5090 上 Q4_K_S 约 90 t/s),需另行下载 mmproj 文件启用视觉,建议 q4km 以上量化以保障工具调用。

    推荐理由:作者给出 Heretic 消融前后 KL 散度与拒绝率对比和各量化档基准分,可以判断这个去对齐版本的具体改动幅度。

  11. Hugging Face · 趋势模型66

    AutoTrust 发布开源决策模型 JEV-35B 及 NVFP4 量化版

    AutoTrust AI 在 Hugging Face 开源决策模型 autotrust/JEV-35B,基于 Qwen3.5-35B-A3B 微调,Apache-2.0 许可,只做 System 1 决策、不生成文本。Decision Index 0.3 公开套件得分 59.73(JEV-27B-VL 为 53.64),单 B200 中位延迟 204 ms;同时放出 NVFP4 版本,下载 25.6 GB、显存 23 GiB,可在 32–48 GB GPU 上运行,Decision Index 得分 59.18、96.6% 答案与 bf16 一致。

    推荐理由:模型卡给出 Decision Index 公开套件逐项分数、延迟与 NVFP4 量化对照数据,并演示了游戏与机器人控制等短板场景。

  12. Hugging Face · 新模型:uncensored58

    Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored 发布,拒绝率从 86/100 降到 6/100

    DavidAU 系发布基于 Qwen3.8 27B 的 ULTRA HERETIC 无审查版本,主打更强去对齐。原版 Qwen3.8 拒绝率为 86/100,709-L 版为 68/100(KL divergence 0.0025),ULTRA HERETIC 版降至 6/100(KL divergence 0.0397)。该模型含 5 种 thinking 模式和 5 种 instruct 模式,可即时切换,thinking token 用量降至原版的 1/2 至 1/5(最低 1/20);正文附 nightmedia 的 arc/c、arc/e、boolq 等 7 项基准对比数据,GGUF 版计划 2026 年 9 月 15-18 日左右发布,源权重随后放出。

    推荐理由:原文给出 Heretic 去对齐前后的拒绝率对比与 KL divergence 数据,可据此判断这个去对齐版本实际去掉了多少安全对齐。

  13. Hugging Face · 新模型:uncensored44

    Qwen3.8-27B-Uncensored 的非对称 GPTQ Int4 量化版发布,可单卡跑在 Intel Arc Pro B70 上

    darioooooo0o 发布 orcarouter/Qwen3.8-27B-Uncensored(OrcaRouter 基于 Qwen/Qwen3.8-27B 的 abliterated 微调版)的非对称 GPTQ Int4 量化版,group 128,lm_head、MTP head 和 vision tower 保留 BF16。在 Intel Arc Pro B70 + vLLM XPU v0.31.0 上单卡实现 262,144 token 上下文与视觉、MTP k=4,短提示解码 64-128 tok/s,KL 散度 0.018-0.060、top-1 一致率 94.1%,优于对称 GPTQ Int4 g128 方案。

10月12日周一
  1. Hugging Face · 新模型:uncensored32

    Sovereign-Uncensored-ARA-27B-MLX-4bit-v2 发布:面向 Apple Silicon 的标准 MLX 版本,支持视觉与原生 MTP

    proofofvitalik 于 2026-10-12 发布 Sovereign v2,将 ARA 27B uncensored 模型以 affine 4-bit(group size 64)打包为标准 qwen3_5 MLX 架构,无需 trust_remote_code,文本权重未合并、重训或重量化,并从同一 ARA 源恢复 BF16 视觉与原生 MTP。该版本使用独立仓库和 v2.0.0 标签,不替换旧版;声明架构上下文为 262,144,已在 mlx-vlm 0.7.6、mlx-lm 0.32.0、M4 Max/48GB 环境验证,LM Studio 与 Splash 1.3.1 均可加载。

  2. Hugging Face · 趋势模型64

    NVIDIA 发布 Nemotron 3.5 Super VL 120B-A12B 的 NVFP4 量化版

    NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Super VL 的 NVFP4 量化版本,这是一个 120B 总参数、12B 激活参数的视觉语言模型,采用 Mamba-2 与 MoE 混合架构加 C-RADIO 视觉编码器,支持最高 1M token 上下文和原生 MTP 投机解码。量化通过 BF16 模型的量化感知蒸馏完成,模型卡给出了 BF16 与 NVFP4 在 GPQA-Diamond、SWE-bench Verified、Video-MME v2 等数十项基准上的对照结果,并提供 vLLM、SGLang、TensorRT-LLM 在 DGX Spark、H200、H100、GB200 上的部署配置,许可证为 OpenMDW-1.1,可商用。

    推荐理由:模型卡同时给出 BF16 与 NVFP4 的完整基准对照和多种硬件部署配置,读者可以据此评估量化损失与所需显存门槛。

  3. Hugging Face · 新模型:abliterated18

    shadowdio 发布 Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated GGUF 量化模型

    shadowdio 在 Hugging Face 上架 Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated 的 GGUF 版本,提供 Q4_K_M 量化。该模型可经 Transformers 加载,也支持 llama.cpp 本地起 OpenAI 兼容服务,兼容 Ollama、LM Studio、Docker Model Runner、Lemonade 等工具,并可接入 Pi、Hermes、OpenClaw 等 Agent。

  4. Hugging Face · 新模型:uncensored24

    softwareweaver/GLM-5.3-Uncensored-EXL3 量化版发布

    softwareweaver 发布 GLM-5.3 Uncensored 的 EXL3 量化转换版,源自 dealignai/GLM-5.3-UNCENSORED-FP8,提供 3bpw(307.59 GB)和 6bpw(585.17 GB)两种规格,均保留 MTP 并可选 DFlash2 文件夹。权重采用 ExLlamaV3 的高质量分配,实际码率略高于目标值,需搭配兼容推理软件和足够内存/显存使用。

  5. Hugging Face · 新模型:abliterated68

    Swift 1.5 Qwen3.8-Flash-Next NVFP4 去审查替换文件发布,附512剪至256专家的半专家变体

    作者发布 Swift 1.5 Qwen3.8-Flash-Next NVFP4 的去审查替换文件,将拒答方向以 1.5 倍强度从 151 个写入残差流的张量中投影掉,并提供每层专家从 512 个剪至 256 个的 pruned256 变体。逐文件给出 SHA-256 与验证报告,24,576 个专家重新量化后分量约 −0.498;实测在单卡 RTX PRO 6000(96 GB)上用 SGLang 可跑约每秒 1,000–1,200 生成 token,12 个中文政治敏感问题全部完整回答而原版大多拒答或给官方口径短答。未跑通用基准与 pruned256 变体;n-gram 嵌入分片约 102 GB 需从原仓库获取。

    推荐理由:作者给出了逐层投影去除拒答方向的做法和完整验证数据,包括编辑前后分量、量化误差和12题政治敏感问题实测对比,可直接复现。

  6. Hugging Face · 新模型:uncensored74

    DeepSeek-V4.1-Flash GSQ 混合精度量化版发布,单张 RTX 4090 可跑 552B MoE

    IndrasMirror 发布 DeepSeek-V4.1-Flash-GSQ-Uncensored,对 dealignai 的 abliterated 检查点做校准混合量化,552B 参数 MoE 压缩至约 163 GB(152 GiB 专家权重),可在 RTX 4090 24 GB + 90 GB RAM + NVMe 的家用 PC 上运行。量化采用三档专家格式(42.8% 三值、39.2% 2-bit、18.0% 3-bit),与同尺寸均匀 Q2_0 相比输出误差低 17%;held-out 困惑度 5.645(原模型 4.915),top-1 一致率 0.674。实测 Prefill 250 tok/s、Decode 约 26 tok/s(启用 ggml patch 可达 27+)。

    推荐理由:原文完整公开了混合精度量化的校准方法、逐层误差和困惑度数据,并给出在单张 RTX 4090 上复现所需的全套工具与硬件清单。

  7. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 底座、每 token 激活 8B/16B)的权重级 abliterated 无对齐版本,以原生 FP8 权重提供,支持 1M token 上下文、视觉与工具调用。HarmBench-320 实测显示 CRACK 版在 effort=off 和 max 下拒绝率均为 100% 通过(base 分别为 42.81% 和 1.56%),MMLU-14k 整体准确率从 86.96% 降至 82.74%,剔除伦理类科目后约 -1.1 pp;模型卡还给出 SGLang 部署命令、KV 内存占用、4×H200 实测吞吐(单流 101-113 tok/s)及多项启动注意事项。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  8. Hugging Face · 新模型:abliterated28

    mradermacher 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GGUF 静态量化版本

    mradermacher 在 Hugging Face 上发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GGUF 静态量化版本。提供的量化档位按大小排序,包括 Q2_K(11.0 GB)、Q4_K_S(15.9 GB,标注 fast、recommended),以及 mmproj-Q8_0(0.7 GB)和 mmproj-f16(1.0 GB)的多模态补充文件。weighted/imatrix 量化暂不可用,用户可通过 Community Discussion 申请。

  9. Hugging Face · 新模型:uncensored36

    Qwen-Image-2.1 Uncensored GGUF 量化版本发布

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的无审查 GGUF 量化版本,提供从 BF16(14.23 GB)到 Q4_0(4.15 GB)等多种量化文件,推荐 Q4_K_M 以平衡体积与质量。该版本移除内置安全检查器与内容过滤,可直接生成 NSFW 内容,需配合 ComfyUI 与 ComfyUI-GGUF 使用,仓库内包含 qwen3vl_8b 文本编码器和 VAE 等配套文件。采用 Qwen Research License 授权。