跳到正文
10月20日周二
  1. Hugging Face · 新模型:uncensored47

    NeosQ 发布 Qwen3.8-Flash-Next-Uncensored 的 MTPLX 优化速度量化版

    NeosQ 基于 OrcaRouter 去审查的 Qwen3.8-Flash-Next(125B-A6B MoE)BF16 权重,用 MTPLX Forge 按 flash-next-optimized-speed 配方制作 4-bit 量化版,总大小 115.3 GB,保留原生 MTP 投机解码头。在 M5 Max 128 GB 上 MTP 投机解码达 85.7 tok/s,为普通解码的 2.07 倍;需 Apple Silicon、macOS 14+ 及 96–128 GB 统一内存,支持 OpenAI/Anthropic 兼容 API,采用 Apache 2.0 许可证。

  2. Hugging Face · 新模型:uncensored48

    DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 量化模型基准测试数据发布

    Hugging Face 上发布 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 的性能测试数据,对比 Native MXFP4、NVFP4 target、EXL3 2.875 与 EXL3 3.5 四种配置在 1-32 并发下的 chat 吞吐与延迟。Native MXFP4 在 32 并发时达 831.66 tokens/second,为各配置中最高;EXL3 3.5 在 32 并发时为 480.84 tokens/second。

  3. Hugging Face · 新模型:uncensored21

    Gravelrat 发布 L3.1-Dark-Reasoning-LewdPlay-evo-Hermes-R1-Uncensored-8B-IQ4_NL-GGUF 量化模型

    Gravelrat 在 Hugging Face 上发布 L3.1-Dark-Reasoning-LewdPlay-evo-Hermes-R1-Uncensored-8B-IQ4_NL-GGUF,为 8B 参数、IQ4_NL 量化的 GGUF 无审查模型。页面给出 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种运行方式,其中 llama.cpp、Ollama、Docker 等可直接以 IQ4_NL 量化版本拉取运行,vLLM 与 SGLang 均支持 OpenAI 兼容 API 调用。

  4. Hugging Face · 新模型:uncensored44

    Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 发布

    HauhauCS 在 Hugging Face 发布基于 Qwen3.6-35B-A3B 的去审查版模型 Aggressive 变体,0/465 拒答,不改动数据集与能力。该模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文,支持文本、图像、视频多模态。提供 Q8_K_P 到 IQ2_M 多种 GGUF 量化(K_P 量化以约 5-15% 更大体积提升 1-2 级质量),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  5. Hugging Face · 新模型:abliterated24

    Huihui-Qwen3.8-27B Swift-1.5 Abliterated IQ3_S + DFlash2 NInfer v3 社区转换版发布

    SPK1337 在 Hugging Face 发布 Huihui-Qwen3.8-27B 的 NInfer v3 社区转换版,打包 abliterated Swift-1.5 GSQ-RCO IQ3_S 文本权重(含 MTP)、z-lab 的 DFlash2 draft adapter 和 Qwen3.8-27B vision projector,文件约 13.99 GiB,采用 Apache-2.0 许可。该 artifact 仅供 NInfer-all 运行时加载,不能通过 transformers.AutoModel 直接读取;本地验证 HTTP 端点可正常返回文本,但 DFlash2 接受率、tokens/second 等尚未 benchmark。

  6. Hugging Face · 新模型:abliterated38

    Qwen3.8-27B-abliterated GGUF 量化版本发布

    douyamv 发布 abliterated(去审查)版 Qwen3.8-27B 的 GGUF 量化版本,提供 Q8_0 到 Q2_K 共 6 档,大小约 7.9 GB 至 28 GB,适用于 llama.cpp、Ollama、LM Studio 等 GGUF 兼容引擎。该模型通过在所有层投影去除 refusal direction 实现无限制对话,基座为 27.78B 参数、上下文 262,144 tokens(可扩展至 1M+),采用 Apache 2.0 许可。

  7. Hugging Face · 新模型:uncensored36

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,用于本地图像生成,Q4_K_M(4.60 GB)为推荐的 GGUF 量化档位。该版本无内置安全检查器,可直接生成成人及 NSFW 内容,需配合 ComfyUI 与 ComfyUI-GGUF 使用,文本编码器 qwen3vl_8b 可卸载至系统内存以节省 9–17 GB 显存。

10月19日周一
  1. Hugging Face · 新模型:uncensored54

    MiMo-V2.6-Pro 无对齐版量化权重发布,适配 Maya 引擎本地部署

    nofacedfl 发布基于 Xiaomi 约 1 万亿参数 MiMo-V2.6-Pro 的 abliterated "heretic" 基座的约 2-bit 量化版(300 GB,GGUF 分片),适配 Maya 引擎并带独立视觉塔,MIT 许可。实测在 5× RTX 4090 48 GB + 2× A100 40 GB 上代码生成 71–75 tok/s、200K 上下文 38–40 tok/s,支持 512K 上下文与约 1.6 秒的图像输入;abliterated 基座在该量化下 40 道 JailbreakBench 请求仍拒答 24 题,运行时拒绝向量可将拒答降到 1–5/40 但会增加编造答案,暂未随包发布。

    推荐理由:原文给出拒绝率实测数据,abliterated 基座经量化后 40 题仍拒答 24 题,读者可据此判断去对齐的实际程度。

  2. Hugging Face · 新模型:uncensored58

    Qwen3.8-27B 去对齐微调版发布 GGUF 量化,ARC-C 达 735 并大幅压缩思考 token

    Sameer3336s 发布基于 Qwen/Qwen3.8-27B 的去对齐微调版 GGUF 量化仓库,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B。模型用 Heretic v1.2.0+ ARA 方法去审查,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。仓库含常规与 MTP 两种 NEO imatrix 量化,作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s,支持 256k 上下文与视觉(需另下 mmproj 文件)。

    同一新闻,精选展示《DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF》

  3. Hugging Face · 趋势模型51

    Bria 发布 Fibo 2.0 Edit Turbo:4 步少步数图像编辑开源权重模型

    Bria 发布 Fibo 2.0 Edit Turbo 开源权重模型,是从 Fibo 2.0 Dev 蒸馏出的专用图像编辑模型,4 步推理且无需 classifier-free guidance 即可出图。据 Artificial Analysis Image Arena 2026 年 10 月 20 日排名,它在开放权重图像编辑模型中位列第一。模型为 8B 参数 flow-matching 架构,基于 FLUX.2 VAE 潜空间,用 Qwen3-VL-4B-Instruct 编码提示词,训练数据全部为授权数据;许可证为 CC BY-NC 4.0,商用需与 BRIA 另行协议。支持普通编辑、掩码编辑和最多 4 张参考图编辑,官方也预告了多轮编辑、背景去除、商品图 LoRA 等后续组件。

  4. Hugging Face · 新模型:uncensored73

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    发布者用 Heretic 对 Qwen3.8-27B 做去对齐处理并放出 GGUF 量化权重,100 条有害提示上的拒绝数从基座的 98 降到 12,首 token KL 散度为 0.1191。MTP 头被保留并逐文件验证,IQ2_M 到 Q8_0 各档相对 f16 的困惑度增量均给出,能力基准均值较基座下降 0.5 分,Apache 2.0 许可。

    同一新闻,精选展示《Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100》

  5. Hugging Face · 趋势模型47

    XHToken 发布端侧模型 Spark-X2.6-4B(GGUF)

    XHToken 在 Spark-X2.5-4B 基础上推出端侧部署模型 Spark-X2.6-4B,架构不变,靠改进后训练提升编码、Agent、长上下文、多语言与推理能力,在同级开源模型中达到 SOTA,可匹敌或超越约 9B 参数的模型。模型提供 none、low、high 三档可控思考预算,支持最大 1,048,576 token 上下文,推理效率不低于 Qwen3.5-4B 和 Gemma-E4B,并可在 SGLang、vLLM 上部署。

  6. Hugging Face · 新模型:abliterated57

    junmo-k 发布 GLM-5.3-Flash-FP4 去对齐版 MLX 重打包

    junmo-k 在 Hugging Face 发布 Piecrust/GLM-5.3-Flash-FP4-Abliterated 的 MLX 重打包,基于 NVIDIA 的 NVFP4 量化版 GLM-5.3-Flash(320B 总参数、约 18B 激活),对第 15-36 层的 44 个矩阵施加 rank-1 拒绝方向编辑。在 Apple M5 Ultra 256GB 上实测,去对齐编辑相对未编辑版本 NLL 高 0.46%,解码慢 12-24%,峰值内存多约 13GB;相对作者自己的 158GiB JK v4 版 NLL 低 1.47%。加载需 14 行 oMLX 补丁以支持每专家 weight_scale_2。

    推荐理由:作者给出消融方法细节和与未编辑版本的 NLL、速度、内存对照数据,可据此评估这次去对齐编辑的实际代价。

  7. Hugging Face · 新模型:abliterated27

    prithivMLmods 发布 flux-3-image-klein-prompt-upsampler-abliterated-GGUF 量化版本

    prithivMLmods 在 Hugging Face 发布 flux-3-image-klein-prompt-upsampler-abliterated 的 GGUF 量化版本,这是 BFL 基于 Qwen3.5-9B 微调的 9B 提示词扩写模型的去审查变体,通过权重正交化移除安全对齐,不再拒绝请求。它支持文生图、最多 10 张参考图的编辑和带 bounding box 的布局三种模式,权重 18.8 GB bfloat16,Apache 2.0 许可,提供 Q3_K_L 至 Q8_0 多种量化,其中 Q4_K_M 为 5.63 GB。

  8. Hugging Face · 新模型:uncensored49

    Infatoshi 发布 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 量化模型

    Infatoshi 在 Hugging Face 上架 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored,并附上 Native MXFP4、NVFP4 target 与 EXL3 2.875/3.5 多组并发基准。Native MXFP4 在 32 并发下聚合吞吐达 831.66 tokens/second,高于 NVFP4 的 796.13 与 EXL3 3.5 的 480.84;单并发时延方面 NVFP4 target 的 time_to_content_p50 为 0.32442 秒,略优于 Native MXFP4 的 0.34266 秒。

  9. Hugging Face · 新模型:uncensored41

    DeepSeek-V4.1-Flash-1017-NVFP4-uncensored 量化模型基准测试数据发布

    Hugging Face 上发布 DeepSeek-V4.1-Flash-1017-NVFP4-uncensored 的性能测试数据,对比 Native MXFP4、NVFP4 target、EXL3 2.875 与 EXL3 3.5 四种配置在不同并发下的吞吐与延迟。Native MXFP4 在 32 并发时达 831.66 tokens/second,NVFP4 target 为 796.13 tokens/second,EXL3 3.5 为 480.84 tokens/second。

  10. Hugging Face · 新模型:uncensored48

    DeepSeek-V4.1-Flash-1017 EXL3 2.875bpw 无审查量化版本在 Hugging Face 发布

    Hugging Face 上架 Infatoshi 发布的 DeepSeek-V4.1-Flash-1017-EXL3-2.875bpw-uncensored 量化模型。附带的基准数据显示,EXL3 2.875 配置在并发 1 时生成速度约 125.86 tokens/秒,并发 32 时约 452.16 tokens/秒;对比数据还包含 Native MXFP4(并发 32 达 831.66 tokens/秒)、NVFP4 target 及 EXL3 3.5 等配置的吞吐与首字延迟表现。

  11. Hugging Face · 新模型:uncensored38

    DeepSeek-V4.1-Flash-1017 EXL3 3.5bpw 无审查量化版本在 Hugging Face 发布

    Hugging Face 用户 Infatoshi 发布 DeepSeek-V4.1-Flash-1017 的 EXL3 3.5bpw 无审查(uncensored)量化版本。附带的基准测试显示,Native MXFP4 在 32 并发下聚合吞吐达 831.66 tokens/second,EXL3 3.5 在 32 并发下达 480.84 tokens/second,同时给出各并发数下的 time_to_content_p50 等延迟数据。

  12. Hugging Face · 新模型:uncensored68

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 XQ 混合精度去对齐量化版

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 XQ 混合精度量化版,552B 参数 MoE 压缩到 152 GB,可在 RTX 4090(24 GB)加 90 GB 内存的家用 PC 上运行,需配合自研 Xolotl 引擎而非 llama.cpp/Ollama。模型带 rank-2 拒绝方向编辑(manifest id adea0515bbf69a0b),拒绝探针显示 chat 模式 0/100、think 模式 0/50 拒绝;8K 预填充 239.8 tok/s,解码 12–13 tok/s。短 Gauntlet 测试 2/5,比作者此前 V4.1 v2 量化版(4/5)有回退,原因尚未定位;校准后重做的 V3 版本正在上传。

    推荐理由:作者给出了拒绝探针、困惑度和速度的实测数据,还说明了量化分配与拒绝方向编辑的具体做法,可据此评估这个本地化版本。

  13. Hugging Face · 新模型:abliterated21

    Mitroshenkov87/voxprint-mirror-huihui-gemma-4-12b-it-abliterated-gguf 上架 Hugging Face

    Hugging Face 上架 GGUF 格式模型 Mitroshenkov87/voxprint-mirror-huihui-gemma-4-12b-it-abliterated-gguf,提供 Q4_K_M 量化版本。该模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种工具运行,支持启动 OpenAI 兼容 API 服务器或在终端直接推理,也可接入 Pi、Hermes Agent、OpenClaw 等智能体工具。

  14. Hugging Face · 新模型:abliterated24

    Qwen3.8-Flash-Next 125B 的 Finch 2-bit abliterated 版本发布(含视觉权重)

    Hugging Face 上架了 abliterated 版 Qwen3.8-Flash-Next 125B 的 .finch 安装包,供 out-of-core FinchMoE 引擎使用,将路由专家重打包为 2-bit affine 量化,并原样携带源模型的视觉塔(333 个 BF16 张量,约 0.836 GiB)。总声明大小约 74.70 GB,常驻权重 3.88 GB,默认 16 个 expert-cache 槽位下专家缓存约 1.10 GiB,可运行于 12–16 GB 设备,8 GB iPhone 无法运行;当前文本生成可用,视觉运行时尚未支持。许可证为 Qwen Community License 1.0。

  15. Hugging Face · 新模型:uncensored52

    GLM-5.3-Flash-Uncensored 3.0bpw EXL3 量化包发布,附实测对比数据

    androidli 发布 GLM-5.3-Flash-Uncensored 的 EXL3 3.0bpw 量化包(mcg 码本),仅对每层 288 个 routed experts 量化,非路由张量保持源生精度,权重共 152 GB,面向 2× DGX Spark (GB10) 经 CX7 直连以 TP=2 运行。实测 EvalPlus 542 题 86.3%、GSM8K 98.0%、HumanEval 98.2%,与 Mia-AiLab 自报的 4bpw 版差异在噪声范围内;调优配置下 KV 池 3,891,200 tokens,前向延迟平均快约 15%。

    推荐理由:作者实测了 3.0bpw 量化版与 4bpw 版的质量、KV 池和延迟对比,并标注了各数字对应的复现配置。

  16. Hugging Face · 新模型:abliterated60

    dealignai 发布 GLM-5.3 无对齐 FP8 权重版 v2

    dealignai 发布 GLM-5.3-ABLITERATED-FP8 v2,对 GLM-5.3-FP8 做权重级去审查,仅修改 bf16 residual writer 张量、不动 FP8 专家,可在原版 vLLM 上以 Hopper 原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HB-320 上 GARBAGE 降为 0,非版权危害面 TRUE_COMPLY 达 91.7%(off),代价是整体 TRUE_COMPLY 下降约 4pp;MMLU 87.43%,较基线 +1.85pp。附 TP8 H200 部署配置与 reasoning_effort 只认 low/high 等运行注意事项。

    推荐理由:发布方给出了 MMLU 与 HarmBench-320 的前后对照数据,v2 版在消除推理循环的同时保留了约 87% 的 MMLU 水平。

  17. Hugging Face · 新模型:uncensored62

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 GSQ 无对齐量化版,152 GB 可在单张 RTX 4090 上运行

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 GSQ 混合层级量化无对齐版本,552B 参数 MoE 压缩到 152 GB,可在 RTX 4090(24 GB)加 90 GB 内存的家用 PC 上以 12–13 tok/s 解码运行。模型对专家采用 ternary/2-bit/3-bit 混合量化(平均 2.093 bpw),并施加 mrfakename 风格的 rank-2 拒绝方向编辑;行为探针显示 chat 模式 100 个有害与 100 个安全样本均 0 次拒绝,think 模式同样 0 次拒绝。

    推荐理由:卡片给出了量化前后困惑度对比、拒绝探针和速度实测数据,读者可以据此判断这个 152 GB 版本在消费级硬件上的真实质量。

  18. Hugging Face · 新模型:abliterated50

    RTX 3080 20 GB 实测 Qwen3.8-27B 两个 abliterated 量化版的 MTP 速度与困惑度对比

    作者在单张 RTX 3080 20 GB 上用 llama.cpp 实测了 Qwen3.8-27B 的 Huihui 与 Heretic RVN 两个 abliterated 量化版本,仓库不含模型权重。结果显示 RVN IQ4_XS 在 MTP 下最快(代码 69.4 tok/s、散文 58.2 tok/s,比 Huihui 快约 5–7%),德语困惑度略低,通过 88.6K 上下文与全部 6 项工具调用测试,但多占 1.1 GB 显存导致 n-max 3 无法启动;MTP 草稿深度 n-max 2 是综合最优设置,MTP 对 prefill 无帮助反而约损失 5%。

10月18日周日
  1. Hugging Face · 新模型:abliterated54

    huginnfork 发布 Qwen3.8-Flash-Next NVFP4 去对齐版 CSF 容器

    huginnfork 发布 Qwen3.8-Flash-Next-NVFP4-Abliterated v4 的 CSF 压缩容器,比原版小 3.58 GB,权重与 v4 逐位一致。消融在量化网格上原位进行,rank-1 拒绝方向取自第 46 层、alpha=1.0,共编辑 25,188 个张量;有害拒绝率从母模型的 136/136 降到 0/136,过度拒绝从 4/59 降到 0/59,GPQA 差异不显著(p=0.286)。需带 NVFP4-CSF reader 的 vLLM 源码构建才能加载,作者提醒该模型拒绝行为被有意降低,部署时需自备安全措施。

    推荐理由:原文给出rank-1拒绝方向消融的具体参数和与母模型的有害拒绝率对照数据,读者可据此评估这个去对齐版本的实际改动幅度。

  2. Hugging Face · 新模型:uncensored36

    Baekpica 发布 DeepSeek-V4.1-Flash-1017-UNCENSORED-VQ-GGUF 量化版

    Baekpica 将 dealignai 的 DeepSeek-V4.1-Flash-1017-UNCENSORED FP8 权重按 YoungAi 的 vq8sh14-q4k-mtpnative 配方原样转换为 VQ GGUF,基础文件约 113.6 GB,面向 128 GB DGX Spark,上下文保持原生 1,048,576 tokens。该量化约 1.6 bits per routed-expert weight,同配方在 V4.1 Flash 上与 FP8 模型 next token 一致率为 69–79%,质量与去审查行为可能下降。目标运行时为 ds4-dfm-rs,1017 Engram 表(2 × 101.5 GB)需从本地 SSD 读取。

  3. Hugging Face · 新模型:uncensored67

    candor-lab 发布 K2-Horizon-7B 去对齐版 GGUF,拒绝率从 287 降至 3

    candor-lab 用自研权重编辑工具 Candor 移除了 IFM 的 K2-Horizon-7B 的拒绝行为,以单个 Q4_K_M GGUF(5.59 GB)发布在 Hugging Face,Apache 2.0 协议。288 个 StrongREJECT 有害提示的拒绝数从原版 287 降到 3,300 个 Alpaca 无害提示拒绝数从 2 降到 0,KL 散度 0.052,GSM8K 正确数 1222 对 1209,均在噪声范围内。编辑为 rank-3 修改,覆盖 61 个输出矩阵;搜索的 313 次试验和最终评测均在 llama.cpp 中开启 thinking、reasoning effort high 下完成,前两名候选曾因数学成绩下降或思考预算耗尽被淘汰。

    推荐理由:原文给出拒绝率、KL 散度和 GSM8K 的前后对照数据,读者可以据此判断这次权重编辑到底去掉了什么、损失了多少。