跳到正文
10月24日周六
  1. Hugging Face · 新模型:abliterated69

    DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,附实测拒绝率与精度数据

    Orca 发布 abliterated 版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化文件,提供 Mix-256G(235.8 GB)与 Mix-128G(114.0 GB)两种构建。模型为 763B 参数 MoE,含 197B 参数 Engram n-gram 表(110.6 GB,留在 SSD 按需读取)和 1M token 上下文;精度按实测 KLD 逐层搜索分配。去对齐版在 500 条有害提示上拒绝率均值 0.074(原版 0.874),JBB-harmful 下降 97%,MMLU 保持 0.91 左右;Mix-256G 在 2×H200 上约 70 tok/s,需 llama.cpp PR #30817,MIT 许可。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑》

  2. Hugging Face · 新模型:uncensored34

    Qwen3.5-2B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING 微调模型发布

    Avichaudhry 基于 Unsloth 在本地硬件上用 4 个 Claude-4.6-OS 数据集微调 Qwen3.5-2B dense 模型,发布完全无审查的 HERETIC 版本。该模型在 arc、boolq、piqa 等多数 benchmark 上超过基座(如 arc 0.366 对 0.348),推理"size"经训练缩减,视觉图像功能测试可用,原生上下文长度 262,144,建议最低 q4ks 或 IQ3S 量化。

  3. Hugging Face · 新模型:uncensored68

    Qwen3.8-27B OrcaRouter Uncensored 的 GGUF 与 NInfer 量化版发布,适配 16 GB 显存

    codavidgarcia 发布 orcarouter/Qwen3.8-27B-Uncensored 的 GGUF 与 NInfer 量化文件,让模型连同原生 MTP 头在 16 GB 显存内运行。该去对齐版本在 abliterlitics 的 12 个变体对比中以 82% 的有害提示服从率排第一,各能力基准与原模型差距在 ±1.3 分内;作者在单张 RTX 4080 16 GB 上实测了各文件的 KLD、速度与 llama.cpp/NInfer 运行命令,许可证为 Apache-2.0。

    推荐理由:原文给出拒绝率、KLD 与 RTX 4080 实测速度数据,可据此判断该去对齐量化版的损失与 16 GB 可用性。

  4. Hugging Face · 新模型:abliterated40

    huihui-ai 发布 Huihui-gemma-4-31B-it-abliterated-v2

    huihui-ai 发布 google/gemma-4-31B-it 的去审查版本 Huihui-gemma-4-31B-it-abliterated-v2,通过 abliteration 技术移除模型拒答行为,且前 5 层未做处理以减少警告和拒绝。该版本 PPL 为 13161.2940,低于原版的 14874.7532 和上一版 abliterated 的 13335.5546。模型可通过最新版 ollama 以 huihui_ai/gemma-4-abliterated:31b-v2 直接运行,官方建议用于研究测试而非生产环境。

  5. Hugging Face · 新模型:uncensored52

    Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化镜像发布

    grainrigi 在 Hugging Face 镜像了 HauhauCS 的 Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化版,作为备份保留 Q8_K_P 与 f16 mmproj。原版基于 google/gemma-4-26B-A4B-it,总参数 25.2B、激活约 3.8B(128 专家取 top-8 加 1 共享专家),256K 原生上下文、原生多模态;经自动化与人工拒绝基准测试为 0/465 拒绝,少量边缘提示首次会回避但重问即答。

    推荐理由:原文给出 0/465 拒绝率的自动化与人工实测数据,以及各量化档位大小和推荐配置,便于按显存选档。

  6. Hugging Face · 新模型:abliterated59

    Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO abliterated GGUF 发布,144 个张量移植并逐层验证

    grainrigi 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO 的 abliterated GGUF(SC117 仓库镜像),通过字节级张量移植把 Qwen3.8-Flash-Next 去对齐权重的 144 个张量(约 41.1B 参数、占主模型 33%)换入已有 GSQ-RCO 量化文件,覆盖全部 48 层的残差写入张量。

  7. Hugging Face · 新模型:uncensored20

    DavidAU 发布 NVIDIA-Nemotron-3.5-Bolt-E4B-Heretic-Uncensored-Turbo-Brilliance-50x-INST-R-NEO GGUF 模型

    DavidAU 在 Hugging Face 上架 NVIDIA-Nemotron-3.5-Bolt-E4B-Heretic-Uncensored-Turbo-Brilliance-50x-INST-R-NEO 的 GGUF 版本,属"TURBO BRILLIANCE 50x"系列,目标是减少 token 并提升模型质量与 IQ。该系列覆盖 3B 到 120B 且持续扩充;此模型将提供 64k(Nvidia 设定)和 128k 上下文版本,Heretic 处理与 Imatrix 尚在完成中,可通过 Transformers、vLLM、SGLang 及 Docker 使用。

  8. Hugging Face · 新模型:uncensored18

    EsteefAi 镜像 Orenguteng 的 Llama-3-8B-Lexi-Uncensored GGUF 模型

    EsteefAi 在 Hugging Face 发布 Llama-3-8B-Lexi-Uncensored-GGUF-mirror,逐字节复制 Orenguteng 基于 Meta Llama 3 的 Llama-3-8B-Lexi-Uncensored GGUF 文件(如 Q5_K_M 量化),SHA-256 校验一致且无修改,供 Philibert 通过 Ollama 拉取保持安装可用。原模型遵循 Meta Llama 3 Community License,版权归原作者所有。

  9. Hugging Face · 新模型:uncensored18

    EsteefAi 发布 Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-mirror 镜像模型

    Hugging Face 上架 EsteefAi/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-mirror 镜像模型,默认量化为 Q4_K_M。该模型可通过 llama.cpp、Ollama、Docker、LM Studio、Pi、Hermes Agent、OpenClaw 等工具本地运行,llama.cpp 支持启动 OpenAI 兼容服务器及终端直接推理。

  10. Hugging Face · 新模型:uncensored78

    AtomicChat 发布 NVIDIA Nemotron 3.5 Bolt E4B 无拒绝 GGUF 与 3.5 MB LoRA

    AtomicChat 把 NVIDIA Nemotron 3.5 Bolt E4B(基于 Gemma-4-E4B-it)的拒绝行为从权重中移除,提供烘焙 GGUF 量化版和 3.5 MB rank-1 LoRA。按 Arditi et al. 2024 的拒绝方向方法处理 Gemma 4 每块三次写入及其 RMSNorm 共 126 个矩阵。JailbreakBench 拒绝率从 93.8% 降到 1.2%,俄语红队提示从 76% 降到 0%,XSTest 从 9.2% 降到 0.4%,开启思考后 30 题中 29 个拒绝降为 0;MMLU 从 68.50% 到 67.85%(McNemar p=0.21),工具调用 20/20、30k 长文检索 3/3 不受影响。

    推荐理由:原文给出完整的拒绝方向定位方法与前后对照数据,拒绝率从93.8%降到1.2%,MMLU与工具调用影响均有实测。

  11. Hugging Face · 新模型:abliterated51

    Occamy-1.0 APEX-I-NanoPlus-V2.1 Abliterated GGUF 无对齐版发布

    IsValorum 发布 Occamy-1.0 APEX-I-NanoPlus-V2.1 Abliterated GGUF 无对齐版,称通过正交激活转向消除拒绝向量,探针测试 0/10 拒绝。该量化版文件 12.54 GB、3.40 BPW,WikiText-2 困惑度 6.2432(较 BF16 基线 6.18 仅 +1.02%),支持 24GB 显存跑满 256K 上下文;社区实测在 RTX 4070 上以 98.8% 完成 Shortbench 11/12 任务,zephel01 在 SWE-bench 风格评测测得 90.0%–93.3% 解决率。

  12. Hugging Face · 新模型:uncensored64

    flint-uncensored GGUF 量化版发布,拒绝率从 98/100 降至 5/100

    Octopusman388 发布 electroglyph/flint-uncensored 的 GGUF Q4_K_M 量化版(22.5 GiB),该模型是对 RecursiveSI/flint(39.8B-A2.5B MoE 编码模型)的 Heretic 去对齐版本,仓库仅做转换与量化,无额外训练,Apache 2.0 许可。实测拒绝率 5/100(原版 98/100);已知问题是在边界/敏感提示下推理可能失控,10k+ 字符无答案,presence_penalty 1.5 无效,用 --reasoning-budget 4096 加提示语可缓解,4/4 单轮及多轮 agent 运行均正常终止。

    推荐理由:作者实测了拒绝率前后对比和推理循环问题,并给出可复现的 reasoning budget 缓解参数与解码速度数据。

10月23日周五
  1. Hugging Face · 新模型:abliterated60

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 去对齐版 FP8 量化权重

    IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 FP8-DYNAMIC 量化版,体积从 bf16 的 65.8 GB 降到 35.0 GB,KL 0.0134,用 llm-compressor 0.14.0 无校准数据制作。附 NVFP4A16(22.1 GB)和 W4A16(20.5 GB)4-bit 版本,可在 Ampere GPU 上运行。Heretic 评测协议下(关闭思考,100 条有害提示)各版本拒绝数为 20-26/100,差异不显著;原始 ThinkingCap 拒绝 99/100,bf16 去对齐版降至 21/100。

    同一新闻,精选展示《IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 去对齐版 W4A16 量化权重》

  2. Hugging Face · 新模型:abliterated63

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 去对齐版本

    IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated,通过权重差值移植 trohrbaugh 对基座模型 NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 的 abliteration 结果,移除 bottlecapai/ThinkingCap 微调版的拒绝行为,MTP 推测解码头逐位保留,提供 bf16 全量权重(65.8 GB)及 Q8_0 等 GGUF 量化版。

    推荐理由:原文给出权重差值移植方法和关思考模式下的拒绝率与 KL 数据,可据此判断这个去对齐版本实际改动幅度。

  3. Hugging Face · 新模型:abliterated38

    Qwen3.8-Flash-Next-Orca-Abliterated-GSQ-RCO-Coder-GGUF 发布

    Qwen3.8-Flash-Next-Orca-Abliterated-GSQ-RCO-Coder-GGUF(58.6 GB)发布,通过移植 orcarouter 的 144 个正交化残差张量,在 256 专家剪枝的 Coder 架构上实现去审查。模型在 llama.cpp、LM Studio、Ollama 中开箱即用;SWE-bench Verified 79.20%、LiveCodeBench v6 87.43% 基准权重保留,代码语料 PPL 仅从 1.2573 升至 1.2749,安全红队测试合规率 100%。

  4. Hugging Face · 新模型:abliterated71

    armin1 发布 Nemotron-3.5-Super-VL-120B-A12B-NVFP4 的 abliterated 无对齐版本

    armin1 发布了 NVIDIA Nemotron-3.5-Super-VL-120B-A12B-NVFP4 的 abliterated(uncensored)版本,通过保持量化的轻量权重编辑移除拒绝行为,可无缝替换原模型并在 vLLM 与 TensorFold 上直接加载。

    推荐理由:给出了同一测试环境下的拒绝率、KL 保真度和推理速度对比数据,可以据此评估这个去对齐版本付出的实际代价。

  5. Hugging Face · 新模型:abliterated66

    dima6312 发布 Flint 40B-A2.5B 去对齐版,MITRE 拒绝率从 15% 降到 0%

    dima6312 在 Hugging Face 发布 RecursiveSI Flint 40B-A2.5B 的 abliterated 去对齐版本,用 abliterix 移除拒绝方向,Optuna 调参。留出集 MITRE 拒绝率从 15% 降到 0%(n=100,Q8_0),HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,无害提示上 KL 散度 0.0146。提供 BF16、GGUF(Q8_0 到 Q3_K_M)、NVIDIA Blackwell NVFP4 和 Apple silicon MLX 4-bit 多种构建,本仓库为 Rec 运行时 4-bit 版约 21 GB,需 llama.cpp b11827 或更高版本。

    同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》

  6. Hugging Face · 新模型:uncensored39

    Qwen-Image-2.1-Uncensored 量化版本发布:支持 GGUF、Safetensors 与 MLX 格式本地图像生成

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成。版本包含 BF16(14.23 GB)至 Q4_K_M(4.60 GB)等多种量化档位,推荐 Q4_K_M 以平衡体积与质量;MLX 格式针对 Apple Silicon 优化,并随附 qwen3vl_8b 文本编码器与 VAE 文件供 ComfyUI 使用。该版本无内置安全检查或内容过滤,可直接生成 NSFW 等敏感图像。

  7. Hugging Face · 新模型:abliterated63

    dima6312 发布 Flint-40B-A2.5B 去对齐 NVFP4 GGUF 版本

    dima6312 在 Hugging Face 发布了 RecursiveSI Flint 40B-A2.5B 的 abliterated 版本 NVFP4 GGUF,移除拒绝方向,面向安全研究与编码工作,需 llama.cpp b11827 及以上在 NVIDIA Blackwell GPU 上运行,权重文件 22.9 GB。对照测试显示 MITRE 拒绝率从 22% 降至 0%,Meta CyberSecEval 拒绝检查从 18/100 降至 1/100,GSM8K 与 HumanEval+ 无显著下降,pp512 与 tg128 速度差异在 3% 以内;模型基于 Apache 2.0 许可衍生自 RecursiveSI 权重,去对齐只降低拒绝、不增加知识。

    同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》

  8. Hugging Face · 新模型:uncensored28

    Qwen3.8-Flash-Next-Uncensored Q4_K_XL-Gufo 量化版发布

    Hugging Face 上线 Qwen3.8-Flash-Next-Uncensored 的 Q4_K_XL-Gufo 重量化版本,共 3 个分片约 103.5 GiB,升级 716 个张量 dtype 并修复 export bug,使 gufo 引擎可在 AMD Strix Halo(gfx1151)上加载,支持 262 144 原生上下文。无新微调,权重与原 Q4_K_S 相同;许可证按上游 Qwen Community License 1.0 分发,而非元数据标注的 apache-2.0。

  9. Hugging Face · 新模型:uncensored33

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,基于原版上游权重转换,提供 GGUF、Safetensors 和 MLX 格式,涵盖 BF16 14.23 GB 到 MLX 4-bit 4.00 GB 等多个量化档位,推荐 GGUF 用户使用 Q4_K_M(4.60 GB)。该版本内置无安全检查器,可直接生成 NSFW 等敏感图像,配套 qwen3vl_8b 文本编码器和 VAE 文件,可通过 ComfyUI 与 leejet/ComfyUI-GGUF 分支完成本地部署,文本编码器可卸载至系统内存以节省 9–17 GB VRAM。

  10. Hugging Face · 新模型:uncensored40

    m672/gemma-4-31b-it-uncensored-fp8 发布:FP8 块量化版 gemma-4-31B 无审查模型

    m672 发布 gemma-4-31B-it-uncensored-heretic 的 FP8 块量化版本,模型体积约 31.5 GB,较 BF16 的约 62 GB 减半。与 RedHatAI/gemma-4-31B-it-FP8-block 对比,GSM8k-Platinum 97.68%、MMLU-CoT 89.97%、MMLU-Pro 84.52%,性能差距在 -0.14 至 -0.73 之间。量化采用 llmcompressor 的 FP8_BLOCK 方案,输出 compressed-tensors 格式,可原生用于 vLLM,聊天模板默认 enable_thinking 为 true。

  11. Hugging Face · 新模型:uncensored65

    dealignai 发布 GLM-5.3-Flash 无对齐 FP8 权重,HarmBench-320 拒绝率 0%

    dealignai 以 CRACK 方法在权重层面直接移除 GLM-5.3-Flash 的拒绝行为,发布 FP8 量化版(320B 总参数、每 token 激活 18B),HarmBench-320 全部 320 项 0 拒绝,MMLU 87.33% 高于基线 86.74%。该版本在 reasoning-off 和 max 档完全无对齐,low 档保留部分拒绝;H200 上原生 FP8 解码 163 tok/s,MTP 投机解码 211 tok/s。作者还给出 vLLM/SGLang 部署注意事项:reasoning_effort 只接受 low 和 high,max 档需 max_tokens ≥ 6000,视频 fps 须低于片段帧率否则引擎崩溃,并提醒重新下载 2026-08-28 修复后的文件。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  12. Hugging Face · 新模型:uncensored60

    DeepSeek-V4.1-Flash-1017 的 FP8 无对齐版发布,HarmBench 320 项零拒绝

    dealignai 发布了 DeepSeek-V4.1-Flash-1017 的无对齐 FP8 权重版本,仅做权重级消融,保留视觉、视频、工具调用、推理档位和原生 1M token 上下文,不含量化派生、聊天模板改动或 LoRA。HarmBench-320 在 reasoning_effort=max 下 320/320 全部 COMPLY、零拒绝;内部 MMLU(1140 题)从基线 87.63% 降到 83.77%,降 3.86 pp,人文学科降 7.31 pp。仓库为 gated 访问,MIT 许可,另提供 EXL3 2.9 bpw 版本。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 题全部合规》

  13. Hugging Face · 新模型:abliterated66

    dima6312 发布 Flint-40B-A2.5B-abliterated 去拒绝版本

    dima6312 在 Hugging Face 发布 Flint-40B-A2.5B-abliterated,移除了 RecursiveSI Flint 40B-A2.5B 的拒绝方向,面向漏洞分析、恶意软件分诊、检测工程、CTF 和红队工具等安全工作。消融用 abliterix 从 attention 输出与 shared-expert、routed-expert 投影中移除拒绝方向,Optuna 经 50 轮试验选择强度。

    同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》

  14. Hugging Face · 新模型:uncensored71

    dealignai 发布 GLM-5.3-UNCENSORED-FP8 权重级去对齐版本 v2

    dealignai 在 Hugging Face 发布 GLM-5.3-UNCENSORED-FP8 v2,对 GLM-5.3-FP8 做全谱系权重级去对齐,仅修改 bf16 residual writer 张量,不改 FP8 专家路由,无需微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HarmBench-320 上 GARBAGE 从 7 降为 0,非版权危害面 TRUE_COMPLY 达 91.7%(off),代价是整体 TRUE_COMPLY 下降约 4pp;MMLU 87.43%,较基线 +1.85pp。

  15. Hugging Face · 新模型:uncensored59

    npario 发布 gemma-4-31B 的 UDmerge 去对齐 GGUF 量化版本

    npario 在 Hugging Face 发布 gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF,将 llmfan46 的 abliterated 张量合并到 Unsloth 无损 Q4_0 量化中,称可获得比朴素消融量化更好的准确率和拒绝率。提供两个变体,UDmerge-Q4_K_XL 将 attn_output.weight(blk.10 至 blk.35)量化为 Q4_0,UDmerge-Q4_K_XXL 量化为 Q8_0,后者拒绝率 20%,与 QAT BF16 持平,且基本不影响 TG 速度;实测 QAT Q4_0 拒绝率为 32%。

    推荐理由:作者用统一的 PPL、KLD、拒绝率和 MMLU 数据对比了合并版与朴素消融量化的差异,Q8_0 变体把拒绝率压回 20%。

  16. Hugging Face · 新模型:uncensored50

    Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 发布 GGUF 与源码

    Aayushbhandari12 在 Hugging Face 发布 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored(release #1),GGUF 与源码均已开放。该模型称核心指标较 Qwen 3.8 27B 提升,ARC-C 高出 141 分,4 bit 性能约为 8 bit 的 99%,思考 token 降至原来的 1/2 到 1/10。后续 Qwen3.8-27B-TWIN-TURBO 版本计划约 2026 年 9 月 10 日发布。

  17. Hugging Face · 新模型:abliterated25

    Sage-A1.5 Heretic Abliterated 的 EXL3 4.0bpw 量化版本发布

    Hugging Face 上发布 Sage-A1.5 Heretic Abliterated 的 EXL3 4.0bpw 量化版本,由 exllamav3 1.6.4 的 convert.py 生成,decoder 约 4.05 bpw、lm_head 6 bit、MTP 4 bpw,视觉塔保持 bf16 未量化。目录约 19GB 含三个 safetensors shard,MTP 权重与预处理器配置从父模型 InternScience/Sage-A1.5 补齐,需 exllamav3 1.6.4 加载,可用 -mode qwen35 并开启 MTP draft。

  18. Hugging Face · 新模型:abliterated57

    distributedcognition 发布 DeepSeek-V4.1-Flash-1017 abliterated 去对齐版本

    distributedcognition 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 版本,将 refusal directions 从同系 DeepSeek-V4.1-Flash-abliterated 迁移而来,以 scale 3.0 的保范双投影编辑作用于 attn.wo_b 和共享专家 ffn.shared_experts.w2(第 4-36 层)。评测显示 LLM 评审下真实拒绝率从基座的 99/100 降到 0/100(53 条完全配合、47 条带免责声明),无害提示 KL 散度 0.093,GSM8K 抽测 18/20 对比基座 19/20。

    推荐理由:原文给出拒绝率前后对比、KL 散度和 GSM8K 抽测数据,并说明关键词检测与 LLM 评审的差异,读者可据此评估去对齐程度。

  19. Hugging Face · 新模型:abliterated40

    DeepSeek-V4.1-Flash-1017 去审查版 MLX 量化模型发布:oQ4e 版本可在 Apple Silicon 运行

    bearzi 发布 mrfakename 制作的去审查版 DeepSeek-V4.1-Flash-1017-abliterated 的 MLX 量化模型,采用 oQ4e 级别量化,总权重 402.4 GiB,通过方向性消融移除拒答行为。在 512 GB 统一内存的 M3 Ultra 上测试:4k 上下文贪心解码 36.5 tok/s,4096 token 预填充 419 tok/s,Engram 表可留在 SSD 以节省内存。与原模型逐张量比对仅 124 个去审查编辑张量有差异。

  20. Hugging Face · 新模型:uncensored20

    MishraNepali/Lily-Cybersecurity-7B-Uncensored-GGUF_Q5_K_M 量化版发布

    Hugging Face 用户 MishraNepali 发布 Lily-Cybersecurity-7B-Uncensored 的 GGUF Q5_K_M 重新量化版本,体积从 13.5GB 降至 4.07GB,可在 16GB 内存的 CPU 上运行,也可在 Google Colab 使用。该模型源自 segolilylabs/Lily-Cybersecurity-7B-v0.2(Apache 2.0 协议),中间版本由 NiroshanDH 量化并做 abliteration 处理,推荐上下文窗口 4096 tokens,量化版可能出现模型幻觉。

  21. Hugging Face · 新模型:uncensored36

    Qwen3.8-Flash-Next-Uncensored Q5_K_S Splash 重打包版发布

    tegsvenson 发布 Qwen3.8-Flash-Next-Uncensored 的 Q5_K_S 重打包 GGUF,将 96 个 hyper-connection inject 张量改为 F32 存储,使其可被 Splash 1.4.0 加载,其余 1,128 个张量与 orcarouter 原版逐字节一致,体积仅增加 12.42 MiB。该版本移除安全对齐(abliterated),在 M4 Max 128 GB 的 MacBook Pro 上经 oMLX 0.7.2 测试,可加载完整 262,144 token 上下文,冒烟测试输出速度 98.4 tok/s。

  22. Hugging Face · 新模型:uncensored35

    Qwen-Image-2.1 Uncensored 量化版发布,支持 GGUF、Safetensors 与 MLX 本地图像生成

    gogogo2727 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,推荐 GGUF 使用 Q4_K_M(4.60 GB)。该版本无内置安全检查器,可直接生成 NSFW 内容,需配合 ComfyUI 与 ComfyUI-GGUF 使用,文本编码器 qwen3vl_8b 可卸载到系统内存以节省 9–17 GB VRAM。