跳到正文
10月20日周二
  1. Hugging Face · 新模型:uncensored68

    DeepSeek-V4.1-Flash-1017 无对齐版发布,附 4× DGX Spark 部署与评测数据

    neko-legends 发布 DeepSeek-V4.1-Flash-1017 的无对齐 EXL3 2.9bpw 打包,基于 dealignai 的 abliterated 版本,将 54 个稠密 BF16 矩阵重编码为 EXL3 trellis 以适配 TensorFold Zig TP4 引擎,可在 4× NVIDIA DGX Spark 上运行。评测显示去对齐代价集中在道德判断,moral_scenarios 从 95.5% 降至 40.9%,而 HumanEval chat 成绩 92.68% 反高于官方版;另提供 3.5bpw 兄弟版本,moral_scenarios 略高但解码慢约 10%。

    推荐理由:原文给出 MMLU 与 HumanEval 的前后对照,显示去对齐的代价集中在道德判断而非知识或编码能力。

  2. Hugging Face · 趋势模型69

    Recursive 发布 MoE 编码智能体模型 Flint,unsloth 上线 GGUF 量化版

    Recursive 发布了面向编码智能体的 MoE 语言模型 Flint,总参数 39.8B、每 token 激活约 2.5B,在 Terminal-Bench 2.1 得 54.9%、SWE-bench Pro v2 得 89.7%、SWE-bench Verified 得 74.2%。模型采用 256 路由专家加共享专家、49 层(2 稠密 + 47 MoE)、262,144 token 上下文,以 Apache 2.0 许可发布,附 BF16 检查点、SGLang 服务套件及面向 NVIDIA 和 Apple Silicon 的量化版本,unsloth 提供 GGUF 格式和运行指南。

    推荐理由:官方模型卡给出了架构细节、评测设置和基准分数来源标注,读者可以据此了解这款小激活参数编码智能体模型的实际规格。

  3. Hugging Face · 新模型:uncensored27

    Qwen3.8-27B-Uncensored-MLX-6-bit 模型发布

    Hugging Face 上发布 bi0h4z4rd88/Qwen3.8-27B-Uncensored-MLX-6-bit,一个基于 Qwen3.8 的 27B 6-bit MLX 量化无审查模型,支持图像输入。页面给出 mlx-vlm 加载与生成示例,并说明可通过 mlx_lm.server 启动本地 OpenAI 兼容服务器,接入 Pi、Hermes Agent 和 OpenClaw 等工具。

  4. Hugging Face · 新模型:uncensored58

    Qwen3.5-9B 微调去对齐版 The-Defiant-Fable 发布,附 GGUF 量化与拒绝率数据

    DavidAU 与 Nightmedia 发布基于 Qwen3.5-9B 的多阶段微调合并去对齐模型 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic,提供 16bit 源权重及 NEO IMATRIX 常规与 MTP GGUF 量化。作者称该模型在 7 项基准上超过 Qwen3.5-9B 与 Qwen3.5-27B,ARC-C 达 0.649(bf16);去对齐方面 KL 散度 0.0793,100 次请求中拒绝 6 次(原模型 100 次),支持 256k 上下文与视觉(需另下 mmproj 文件),MTP 量化在 5090 上 Q4_K_S 可超 185 t/s。

    推荐理由:作者给出 KL 散度和 100 次请求中 6 次拒绝的实测数据,可对照原模型判断去对齐程度。

  5. Hugging Face · 新模型:uncensored47

    NeosQ 发布 Qwen3.8-Flash-Next-Uncensored 的 MTPLX 优化速度量化版

    NeosQ 基于 OrcaRouter 去审查的 Qwen3.8-Flash-Next(125B-A6B MoE)BF16 权重,用 MTPLX Forge 按 flash-next-optimized-speed 配方制作 4-bit 量化版,总大小 115.3 GB,保留原生 MTP 投机解码头。在 M5 Max 128 GB 上 MTP 投机解码达 85.7 tok/s,为普通解码的 2.07 倍;需 Apple Silicon、macOS 14+ 及 96–128 GB 统一内存,支持 OpenAI/Anthropic 兼容 API,采用 Apache 2.0 许可证。

  6. Hugging Face · 新模型:uncensored48

    DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 量化模型基准测试数据发布

    Hugging Face 上发布 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 的性能测试数据,对比 Native MXFP4、NVFP4 target、EXL3 2.875 与 EXL3 3.5 四种配置在 1-32 并发下的 chat 吞吐与延迟。Native MXFP4 在 32 并发时达 831.66 tokens/second,为各配置中最高;EXL3 3.5 在 32 并发时为 480.84 tokens/second。

  7. Hugging Face · 新模型:uncensored21

    Gravelrat 发布 L3.1-Dark-Reasoning-LewdPlay-evo-Hermes-R1-Uncensored-8B-IQ4_NL-GGUF 量化模型

    Gravelrat 在 Hugging Face 上发布 L3.1-Dark-Reasoning-LewdPlay-evo-Hermes-R1-Uncensored-8B-IQ4_NL-GGUF,为 8B 参数、IQ4_NL 量化的 GGUF 无审查模型。页面给出 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种运行方式,其中 llama.cpp、Ollama、Docker 等可直接以 IQ4_NL 量化版本拉取运行,vLLM 与 SGLang 均支持 OpenAI 兼容 API 调用。

  8. Hugging Face · 新模型:uncensored44

    Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 发布

    HauhauCS 在 Hugging Face 发布基于 Qwen3.6-35B-A3B 的去审查版模型 Aggressive 变体,0/465 拒答,不改动数据集与能力。该模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文,支持文本、图像、视频多模态。提供 Q8_K_P 到 IQ2_M 多种 GGUF 量化(K_P 量化以约 5-15% 更大体积提升 1-2 级质量),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  9. Hugging Face Blog57

    Hugging Face 发布 TorchNeuron:Transformers 等库原生支持 AWS Trainium

    Hugging Face 宣布 TorchNeuron 为 PyTorch 在 AWS Trainium 上的原生后端,自 2026 年 10 月 20 日起开放公测,可通过 pip install torch-neuronx 安装。

    推荐理由:官方给出了 TorchNeuron 与 Optimum Neuron 的模型支持率对比和可直接复用的推理与训练脚本,便于评估是否迁移到 Trainium。

  10. Hugging Face · 新模型:abliterated24

    Huihui-Qwen3.8-27B Swift-1.5 Abliterated IQ3_S + DFlash2 NInfer v3 社区转换版发布

    SPK1337 在 Hugging Face 发布 Huihui-Qwen3.8-27B 的 NInfer v3 社区转换版,打包 abliterated Swift-1.5 GSQ-RCO IQ3_S 文本权重(含 MTP)、z-lab 的 DFlash2 draft adapter 和 Qwen3.8-27B vision projector,文件约 13.99 GiB,采用 Apache-2.0 许可。该 artifact 仅供 NInfer-all 运行时加载,不能通过 transformers.AutoModel 直接读取;本地验证 HTTP 端点可正常返回文本,但 DFlash2 接受率、tokens/second 等尚未 benchmark。

  11. Hugging Face · 新模型:uncensored67

    dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 3.5bpw 版本

    dealignai 基于 LibertAI 的 EXL3 3.5bpw 量化包(257.6 GB)发布 DeepSeek-V4.1-Flash-1017 无对齐版本,移除拒绝行为,支持 6 种语言、131K 上下文,保留视觉权重、MTP 头与 n-gram 表。实测 HarmBench-320 在 chat 与 thinking 模式均 320/320 全部 COMPLY,MMLU-500 从 67.60% 降至 64.80%(-2.80 pp)。在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 实测约 55 tok/s 解码,并建议如需更低比特应重新跑 abliteration 流程而非直接重量化。

    推荐理由:原文给出 MMLU 与 HarmBench 的前后对照数据,读者可以据此评估这个去对齐版本在拒绝率与能力之间的取舍。

  12. Hugging Face · 新模型:abliterated38

    Qwen3.8-27B-abliterated GGUF 量化版本发布

    douyamv 发布 abliterated(去审查)版 Qwen3.8-27B 的 GGUF 量化版本,提供 Q8_0 到 Q2_K 共 6 档,大小约 7.9 GB 至 28 GB,适用于 llama.cpp、Ollama、LM Studio 等 GGUF 兼容引擎。该模型通过在所有层投影去除 refusal direction 实现无限制对话,基座为 27.78B 参数、上下文 262,144 tokens(可扩展至 1M+),采用 Apache 2.0 许可。

  13. Hugging Face · 新模型:uncensored36

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,用于本地图像生成,Q4_K_M(4.60 GB)为推荐的 GGUF 量化档位。该版本无内置安全检查器,可直接生成成人及 NSFW 内容,需配合 ComfyUI 与 ComfyUI-GGUF 使用,文本编码器 qwen3vl_8b 可卸载至系统内存以节省 9–17 GB 显存。

10月19日周一
  1. Hugging Face · 新模型:uncensored54

    MiMo-V2.6-Pro 无对齐版量化权重发布,适配 Maya 引擎本地部署

    nofacedfl 发布基于 Xiaomi 约 1 万亿参数 MiMo-V2.6-Pro 的 abliterated "heretic" 基座的约 2-bit 量化版(300 GB,GGUF 分片),适配 Maya 引擎并带独立视觉塔,MIT 许可。实测在 5× RTX 4090 48 GB + 2× A100 40 GB 上代码生成 71–75 tok/s、200K 上下文 38–40 tok/s,支持 512K 上下文与约 1.6 秒的图像输入;abliterated 基座在该量化下 40 道 JailbreakBench 请求仍拒答 24 题,运行时拒绝向量可将拒答降到 1–5/40 但会增加编造答案,暂未随包发布。

    推荐理由:原文给出拒绝率实测数据,abliterated 基座经量化后 40 题仍拒答 24 题,读者可据此判断去对齐的实际程度。

  2. Hugging Face · 新模型:uncensored71

    botp 发布 Qwen3.8-Flash-Next 去审查方向文件 china-v1

    botp 发布 china-v1 审查方向文件,推理时在第 4 到 44 层投影掉该方向分量,使 Qwen3.8-Flash-Next 不再对中国敏感话题拒答或用宣传口径,原权重不变、可按请求开关。192 题评测中敏感话题拒答/回避率从 58% 降到 2%,校准回答从 11% 升到 56%;质量对照显示 Agentic 任务 34/34 持平,HumanEval+ 156 对 155、GSM8K 50 对 49、MMLU 96 对 97。方向由 30 组中英对照对比对的残差流均值差构造,已在 Strata 生产环境验证,llama.cpp 原生 --control-vector 是加法而非投影、不能复现结果;作者提示 1989 年六四短问题仍可能回避,法轮功、大饥荒和新疆的数字细节可能夸大。

    同一新闻,精选展示《Qwen3.8-Flash-Next 发布 china-v1 审查方向文件,推理时去除中国政治审查》

  3. Hugging Face · 新模型:uncensored58

    Qwen3.8-27B 去对齐微调版发布 GGUF 量化,ARC-C 达 735 并大幅压缩思考 token

    Sameer3336s 发布基于 Qwen/Qwen3.8-27B 的去对齐微调版 GGUF 量化仓库,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B。模型用 Heretic v1.2.0+ ARA 方法去审查,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。仓库含常规与 MTP 两种 NEO imatrix 量化,作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s,支持 256k 上下文与视觉(需另下 mmproj 文件)。

    同一新闻,精选展示《DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF》

  4. Hugging Face · 趋势模型51

    Bria 发布 Fibo 2.0 Edit Turbo:4 步少步数图像编辑开源权重模型

    Bria 发布 Fibo 2.0 Edit Turbo 开源权重模型,是从 Fibo 2.0 Dev 蒸馏出的专用图像编辑模型,4 步推理且无需 classifier-free guidance 即可出图。据 Artificial Analysis Image Arena 2026 年 10 月 20 日排名,它在开放权重图像编辑模型中位列第一。模型为 8B 参数 flow-matching 架构,基于 FLUX.2 VAE 潜空间,用 Qwen3-VL-4B-Instruct 编码提示词,训练数据全部为授权数据;许可证为 CC BY-NC 4.0,商用需与 BRIA 另行协议。支持普通编辑、掩码编辑和最多 4 张参考图编辑,官方也预告了多轮编辑、背景去除、商品图 LoRA 等后续组件。

  5. Hugging Face · 新模型:uncensored73

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    发布者用 Heretic 对 Qwen3.8-27B 做去对齐处理并放出 GGUF 量化权重,100 条有害提示上的拒绝数从基座的 98 降到 12,首 token KL 散度为 0.1191。MTP 头被保留并逐文件验证,IQ2_M 到 Q8_0 各档相对 f16 的困惑度增量均给出,能力基准均值较基座下降 0.5 分,Apache 2.0 许可。

    同一新闻,精选展示《Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100》

  6. Hugging Face · 新模型:abliterated57

    junmo-k 发布 GLM-5.3-Flash-FP4 去对齐版 MLX 重打包

    junmo-k 在 Hugging Face 发布 Piecrust/GLM-5.3-Flash-FP4-Abliterated 的 MLX 重打包,基于 NVIDIA 的 NVFP4 量化版 GLM-5.3-Flash(320B 总参数、约 18B 激活),对第 15-36 层的 44 个矩阵施加 rank-1 拒绝方向编辑。在 Apple M5 Ultra 256GB 上实测,去对齐编辑相对未编辑版本 NLL 高 0.46%,解码慢 12-24%,峰值内存多约 13GB;相对作者自己的 158GiB JK v4 版 NLL 低 1.47%。加载需 14 行 oMLX 补丁以支持每专家 weight_scale_2。

    推荐理由:作者给出消融方法细节和与未编辑版本的 NLL、速度、内存对照数据,可据此评估这次去对齐编辑的实际代价。

  7. Hugging Face · 新模型:abliterated27

    prithivMLmods 发布 flux-3-image-klein-prompt-upsampler-abliterated-GGUF 量化版本

    prithivMLmods 在 Hugging Face 发布 flux-3-image-klein-prompt-upsampler-abliterated 的 GGUF 量化版本,这是 BFL 基于 Qwen3.5-9B 微调的 9B 提示词扩写模型的去审查变体,通过权重正交化移除安全对齐,不再拒绝请求。它支持文生图、最多 10 张参考图的编辑和带 bounding box 的布局三种模式,权重 18.8 GB bfloat16,Apache 2.0 许可,提供 Q3_K_L 至 Q8_0 多种量化,其中 Q4_K_M 为 5.63 GB。

  8. Hugging Face · 新模型:abliterated44

    flux-3-image-klein-prompt-upsampler-abliterated:BFL 9B 提示词扩展器的去审查版本

    prithivMLmods 发布 flux-3-image-klein-prompt-upsampler-abliterated,基于 BFL 的 9B 视觉语言提示词扩展器(从 Qwen3.5-9B 微调),通过权重正交化移除安全对齐,模型拒绝率从 97/100 降至 10/100。它保留原版三种模式:文生图、最多 10 张参考图的编辑和带 bounding box 的布局,输出仅支持英文,权重 18.8 GB bfloat16,采用 Apache 2.0 许可开源。

  9. Hugging Face · 新模型:uncensored19

    hotdogs/Ternary-Bonsai-2-27B-Uncensored-Heretic-swift_unc 上架 Hugging Face,附 llama.cpp 等多平台运行指南

    hotdogs/Ternary-Bonsai-2-27B-Uncensored-Heretic-swift_unc 模型现已在 Hugging Face 上提供,支持以 Q2_0 量化版本运行。文档给出 llama.cpp、Ollama、Docker Model Runner、Lemonade 等多种本地部署方式,包括启动 OpenAI 兼容服务器和终端直接推理的命令,并覆盖 Pi、Hermes Agent、OpenClaw 等工具的接入配置。

  10. Hugging Face · 新模型:uncensored48

    DeepSeek-V4.1-Flash-1017 EXL3 2.875bpw 无审查量化版本在 Hugging Face 发布

    Hugging Face 上架 Infatoshi 发布的 DeepSeek-V4.1-Flash-1017-EXL3-2.875bpw-uncensored 量化模型。附带的基准数据显示,EXL3 2.875 配置在并发 1 时生成速度约 125.86 tokens/秒,并发 32 时约 452.16 tokens/秒;对比数据还包含 Native MXFP4(并发 32 达 831.66 tokens/秒)、NVFP4 target 及 EXL3 3.5 等配置的吞吐与首字延迟表现。

  11. Hugging Face · 新模型:uncensored38

    DeepSeek-V4.1-Flash-1017 EXL3 3.5bpw 无审查量化版本在 Hugging Face 发布

    Hugging Face 用户 Infatoshi 发布 DeepSeek-V4.1-Flash-1017 的 EXL3 3.5bpw 无审查(uncensored)量化版本。附带的基准测试显示,Native MXFP4 在 32 并发下聚合吞吐达 831.66 tokens/second,EXL3 3.5 在 32 并发下达 480.84 tokens/second,同时给出各并发数下的 time_to_content_p50 等延迟数据。

  12. Hugging Face · 新模型:abliterated22

    davemahoney69/Coder-1.5B-Abliterated-Merge-Q4 模型在 Hugging Face 上可用

    davemahoney69/Coder-1.5B-Abliterated-Merge-Q4 的 Q4_K_M 量化版本已上架 Hugging Face,可通过 llama.cpp 本地运行,支持启动 OpenAI 兼容服务器或终端直接推理。该模型也可用 Ollama、Docker Model Runner、LM Studio、Jan 等工具加载,并可接入 Pi、Hermes Agent、OpenClaw 等智能体。

  13. Hugging Face · 新模型:abliterated21

    davemahoney69/Coder-14B-Abliterated-Merge-Q4 量化模型在 Hugging Face 上提供 llama.cpp 使用指南

    Hugging Face 上架了 davemahoney69/Coder-14B-Abliterated-Merge-Q4 的 Q4_K_M 量化版本,并给出 llama.cpp 使用方法。用户可通过 llama serve 或 llama cli 直接加载该模型,在本地启动 OpenAI 兼容服务器或终端推理,支持 macOS、Linux、Windows(WinGet)、预编译二进制、源码构建及 Docker 多种安装方式。

  14. Hugging Face · 新模型:abliterated19

    voxprint-mirror-huihui-qwen3-4b-instruct-2507-abliterated 镜像仓库发布

    Mitroshenkov87 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 的未修改备份镜像,该模型为基于 Qwen/Qwen3-4B-Instruct-2507 的指令微调写作模型。镜像文件与原仓库 commit c9bd4645 逐字节一致,采用 Apache-2.0 许可,作为 Voxprint 模型下载器的备用下载源。

  15. Hugging Face · 新模型:abliterated21

    Mitroshenkov87/voxprint-mirror-huihui-gemma-4-12b-it-abliterated-gguf 上架 Hugging Face

    Hugging Face 上架 GGUF 格式模型 Mitroshenkov87/voxprint-mirror-huihui-gemma-4-12b-it-abliterated-gguf,提供 Q4_K_M 量化版本。该模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种工具运行,支持启动 OpenAI 兼容 API 服务器或在终端直接推理,也可接入 Pi、Hermes Agent、OpenClaw 等智能体工具。