跳到正文
10月23日周五
  1. Hugging Face · 新模型:abliterated38

    Qwen3.8-Flash-Next-Orca-Abliterated-GSQ-RCO-Coder-GGUF 发布

    Qwen3.8-Flash-Next-Orca-Abliterated-GSQ-RCO-Coder-GGUF(58.6 GB)发布,通过移植 orcarouter 的 144 个正交化残差张量,在 256 专家剪枝的 Coder 架构上实现去审查。模型在 llama.cpp、LM Studio、Ollama 中开箱即用;SWE-bench Verified 79.20%、LiveCodeBench v6 87.43% 基准权重保留,代码语料 PPL 仅从 1.2573 升至 1.2749,安全红队测试合规率 100%。

  2. Hugging Face · 新模型:abliterated71

    armin1 发布 Nemotron-3.5-Super-VL-120B-A12B-NVFP4 的 abliterated 无对齐版本

    armin1 发布了 NVIDIA Nemotron-3.5-Super-VL-120B-A12B-NVFP4 的 abliterated(uncensored)版本,通过保持量化的轻量权重编辑移除拒绝行为,可无缝替换原模型并在 vLLM 与 TensorFold 上直接加载。

    推荐理由:给出了同一测试环境下的拒绝率、KL 保真度和推理速度对比数据,可以据此评估这个去对齐版本付出的实际代价。

  3. Hugging Face · 新模型:abliterated26

    mradermacher 发布 Sage-A1.5-Heretic-Abliterated-Uncensored-i1-GGUF 量化模型

    mradermacher 在 Hugging Face 上提供 Sage-A1.5-Heretic-Abliterated-Uncensored-i1-GGUF 量化模型,支持以 Q2_K 等量化版本运行。该模型可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或直接推理,也可在 Ollama、Docker、LM Studio、Jan 等工具中使用,并给出了 Pi、Hermes Agent、OpenClaw 等智能体的具体配置方法。

  4. Hugging Face · 新模型:uncensored25

    mradermacher 发布 LFM2.5-24B-A2B-uncensored2-i1-GGUF 量化模型

    mradermacher 在 Hugging Face 上提供 LFM2.5-24B-A2B-uncensored2-i1-GGUF 量化模型,示例以 Q2_K 版本运行。该模型可通过 llama.cpp 在 macOS、Linux、Windows 本地启动 OpenAI 兼容服务器或终端推理,并支持 Ollama、Docker Model Runner、LM Studio、Jan、Pi、Lemonade、Hermes Agent、OpenClaw 等工具加载使用。

  5. Hugging Face · 新模型:uncensored29

    NeoHorse-1-9B-Uncensored GSQ-RCO GGUF 量化版发布,适配 llama.cpp 本地推理

    abenzerps 基于 TokenRhythm/NeoHorse-1-9B 发布 GSQ-RCO 混合精度 GGUF 量化版本,采用 RCO 保留全部 48 个关键 SSM 参数为 BF16,并用 GSQ 按 Hessian 灵敏度校准逐层优化精度。提供 IQ2_XS 到 IQ4_XS 共 5 档文件,推荐 IQ3_M(3.75 bpw、4.20 GB)。配合 4-bit KV cache 可在 8GB 显存的消费级 GPU 上以约 6 GB VRAM 运行 131k 上下文,遵循 Apache-2.0 License。

  6. Hugging Face · 新模型:abliterated66

    dima6312 发布 Flint 40B-A2.5B 去对齐版,MITRE 拒绝率从 15% 降到 0%

    dima6312 在 Hugging Face 发布 RecursiveSI Flint 40B-A2.5B 的 abliterated 去对齐版本,用 abliterix 移除拒绝方向,Optuna 调参。留出集 MITRE 拒绝率从 15% 降到 0%(n=100,Q8_0),HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,无害提示上 KL 散度 0.0146。提供 BF16、GGUF(Q8_0 到 Q3_K_M)、NVIDIA Blackwell NVFP4 和 Apple silicon MLX 4-bit 多种构建,本仓库为 Rec 运行时 4-bit 版约 21 GB,需 llama.cpp b11827 或更高版本。

    同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》

  7. Hugging Face · 新模型:uncensored39

    Qwen-Image-2.1-Uncensored 量化版本发布:支持 GGUF、Safetensors 与 MLX 格式本地图像生成

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成。版本包含 BF16(14.23 GB)至 Q4_K_M(4.60 GB)等多种量化档位,推荐 Q4_K_M 以平衡体积与质量;MLX 格式针对 Apple Silicon 优化,并随附 qwen3vl_8b 文本编码器与 VAE 文件供 ComfyUI 使用。该版本无内置安全检查或内容过滤,可直接生成 NSFW 等敏感图像。

  8. Hugging Face · 新模型:abliterated63

    dima6312 发布 Flint-40B-A2.5B 去对齐 NVFP4 GGUF 版本

    dima6312 在 Hugging Face 发布了 RecursiveSI Flint 40B-A2.5B 的 abliterated 版本 NVFP4 GGUF,移除拒绝方向,面向安全研究与编码工作,需 llama.cpp b11827 及以上在 NVIDIA Blackwell GPU 上运行,权重文件 22.9 GB。对照测试显示 MITRE 拒绝率从 22% 降至 0%,Meta CyberSecEval 拒绝检查从 18/100 降至 1/100,GSM8K 与 HumanEval+ 无显著下降,pp512 与 tg128 速度差异在 3% 以内;模型基于 Apache 2.0 许可衍生自 RecursiveSI 权重,去对齐只降低拒绝、不增加知识。

    同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》

  9. Hugging Face · 新模型:uncensored28

    Qwen3.8-Flash-Next-Uncensored Q4_K_XL-Gufo 量化版发布

    Hugging Face 上线 Qwen3.8-Flash-Next-Uncensored 的 Q4_K_XL-Gufo 重量化版本,共 3 个分片约 103.5 GiB,升级 716 个张量 dtype 并修复 export bug,使 gufo 引擎可在 AMD Strix Halo(gfx1151)上加载,支持 262 144 原生上下文。无新微调,权重与原 Q4_K_S 相同;许可证按上游 Qwen Community License 1.0 分发,而非元数据标注的 apache-2.0。

  10. Hugging Face · 新模型:uncensored33

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,基于原版上游权重转换,提供 GGUF、Safetensors 和 MLX 格式,涵盖 BF16 14.23 GB 到 MLX 4-bit 4.00 GB 等多个量化档位,推荐 GGUF 用户使用 Q4_K_M(4.60 GB)。该版本内置无安全检查器,可直接生成 NSFW 等敏感图像,配套 qwen3vl_8b 文本编码器和 VAE 文件,可通过 ComfyUI 与 leejet/ComfyUI-GGUF 分支完成本地部署,文本编码器可卸载至系统内存以节省 9–17 GB VRAM。

  11. Hugging Face · 新模型:uncensored40

    m672/gemma-4-31b-it-uncensored-fp8 发布:FP8 块量化版 gemma-4-31B 无审查模型

    m672 发布 gemma-4-31B-it-uncensored-heretic 的 FP8 块量化版本,模型体积约 31.5 GB,较 BF16 的约 62 GB 减半。与 RedHatAI/gemma-4-31B-it-FP8-block 对比,GSM8k-Platinum 97.68%、MMLU-CoT 89.97%、MMLU-Pro 84.52%,性能差距在 -0.14 至 -0.73 之间。量化采用 llmcompressor 的 FP8_BLOCK 方案,输出 compressed-tensors 格式,可原生用于 vLLM,聊天模板默认 enable_thinking 为 true。

  12. Hugging Face · 新模型:uncensored65

    dealignai 发布 GLM-5.3-Flash 无对齐 FP8 权重,HarmBench-320 拒绝率 0%

    dealignai 以 CRACK 方法在权重层面直接移除 GLM-5.3-Flash 的拒绝行为,发布 FP8 量化版(320B 总参数、每 token 激活 18B),HarmBench-320 全部 320 项 0 拒绝,MMLU 87.33% 高于基线 86.74%。该版本在 reasoning-off 和 max 档完全无对齐,low 档保留部分拒绝;H200 上原生 FP8 解码 163 tok/s,MTP 投机解码 211 tok/s。作者还给出 vLLM/SGLang 部署注意事项:reasoning_effort 只接受 low 和 high,max 档需 max_tokens ≥ 6000,视频 fps 须低于片段帧率否则引擎崩溃,并提醒重新下载 2026-08-28 修复后的文件。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  13. arXiv · cs.CL48

    SQuAT:球面格点向量量化感知训练

    论文提出 SQuAT,一种面向十亿参数 LLM 的形状-增益向量量化感知训练(VQ-QAT)方法,用分离的 STE 对方向和增益分别更新,方向通过 E8 球面码本量化。其分布式最近邻分配方案将 VQ-QAT 训练时间缩短 12.8 倍,并扩展到 10B token。在 instruction-tuned LLaMA-3.2-1B/3B、Qwen3-4B 和 base Qwen3-1.7B 上,SQuAT 在相同码本和初始化下始终优于标准 VQ-QAT STE,达到 SOTA VQ-QAT 精度。

  14. arXiv · cs.AI58

    arXiv 论文提出用低比特精度压缩语言模型 n-gram 嵌入表

    Stephen Chung 在 arXiv 发布论文,研究以低精度存储语言模型 n-gram 嵌入表以降低内存开销。在 nanochat、Llama、GPT-2 系列从零训练的模型上,4-bit 表节省约 75% 表内存,同时保留加表带来的验证损失改善的 99% 以上;对 DeepSeek-V4.1-Flash 和 Qwen3.8-Flash-Next 节省 47-55% 表内存,困惑度增加低于 1.2%。更低位宽性能下降更大,但短时微调可恢复大部分损失,将省出的内存换成更大表还能超越原全精度表的性能。

    推荐理由:论文系统比较了不同量化和位宽分配方案,给出从零训练与现有大模型两组数据,可帮助读者评估低比特 n-gram 表的实际收益。

  15. Hugging Face · 新模型:uncensored71

    dealignai 发布 GLM-5.3-UNCENSORED-FP8 权重级去对齐版本 v2

    dealignai 在 Hugging Face 发布 GLM-5.3-UNCENSORED-FP8 v2,对 GLM-5.3-FP8 做全谱系权重级去对齐,仅修改 bf16 residual writer 张量,不改 FP8 专家路由,无需微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HarmBench-320 上 GARBAGE 从 7 降为 0,非版权危害面 TRUE_COMPLY 达 91.7%(off),代价是整体 TRUE_COMPLY 下降约 4pp;MMLU 87.43%,较基线 +1.85pp。

  16. Hugging Face · 新模型:uncensored59

    npario 发布 gemma-4-31B 的 UDmerge 去对齐 GGUF 量化版本

    npario 在 Hugging Face 发布 gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF,将 llmfan46 的 abliterated 张量合并到 Unsloth 无损 Q4_0 量化中,称可获得比朴素消融量化更好的准确率和拒绝率。提供两个变体,UDmerge-Q4_K_XL 将 attn_output.weight(blk.10 至 blk.35)量化为 Q4_0,UDmerge-Q4_K_XXL 量化为 Q8_0,后者拒绝率 20%,与 QAT BF16 持平,且基本不影响 TG 速度;实测 QAT Q4_0 拒绝率为 32%。

    推荐理由:作者用统一的 PPL、KLD、拒绝率和 MMLU 数据对比了合并版与朴素消融量化的差异,Q8_0 变体把拒绝率压回 20%。

  17. arXiv · cs.AI45

    T2Quant:面向扩散语言模型的任务与时间步感知量化框架

    一项 arXiv 预印本研究发现,扩散语言模型(DLM)的量化敏感性随任务和去噪时间步而变化,且这种模式无需真实标签或任务专属评测指标即可预测。作者据此提出 T²Quant,一种任务与时间感知的混合精度量化框架,在固定位宽预算下用无标签敏感性信号优化各去噪步骤的激活精度。在 3 个 DLM 和 6 个 benchmark 上的实验显示,同预算下平均准确率最高提升 6.7 个百分点。

  18. Hugging Face · 新模型:abliterated25

    Sage-A1.5 Heretic Abliterated 的 EXL3 4.0bpw 量化版本发布

    Hugging Face 上发布 Sage-A1.5 Heretic Abliterated 的 EXL3 4.0bpw 量化版本,由 exllamav3 1.6.4 的 convert.py 生成,decoder 约 4.05 bpw、lm_head 6 bit、MTP 4 bpw,视觉塔保持 bf16 未量化。目录约 19GB 含三个 safetensors shard,MTP 权重与预处理器配置从父模型 InternScience/Sage-A1.5 补齐,需 exllamav3 1.6.4 加载,可用 -mode qwen35 并开启 MTP draft。

  19. Hugging Face · 新模型:abliterated29

    Huihui-Qwen3.6-35B-A3B-abliterated 的 Orinfer E8P Q4A8 量化版上线 Hugging Face

    基于 huihui-ai 的 abliterated Qwen3.6-35B-A3B 模型、面向 Jetson AGX Orin 64GB 的 Orinfer E8P Q4A8 量化版在 Hugging Face 发布,权重共 35,951,822,704 参数、约 4.209 bits/权重,上下文 262,144 tokens,需 Orinfer v0.2.1 运行。验证显示单次请求 65.83 tokens/s,10/11 自动评分任务通过,权重采用 Apache-2.0 许可。

  20. Hugging Face · 趋势模型65

    KRAFTON 发布 Raon-1 mini preview 开源模型,30B-A4B MoE 架构,Apache 2.0 开源

    KRAFTON 从零训练的 Raon-1 mini preview 发布,为 30B-A4B(28.8B 总参数、每 token 激活 4.3B)MoE 模型,采用 Raon Delta Attention 与 Raon-mHC 的混合注意力架构,原生支持 262,144 token 上下文,以 Apache 2.0 许可开源。主打韩语对话与 Agent 任务,支持 Hermes Agent、Pi 和 OpenCode 工具调用;官方基准显示其在 IFBench、Chatbot Korean 等项目领先对比 MoE 模型。

    推荐理由:模型卡给出了与其他 MoE 和稠密模型的基准对比、架构细节和完整本地部署方案,可据此评估其真实定位。

  21. Hugging Face · 新模型:abliterated40

    DeepSeek-V4.1-Flash-1017 去审查版 MLX 量化模型发布:oQ4e 版本可在 Apple Silicon 运行

    bearzi 发布 mrfakename 制作的去审查版 DeepSeek-V4.1-Flash-1017-abliterated 的 MLX 量化模型,采用 oQ4e 级别量化,总权重 402.4 GiB,通过方向性消融移除拒答行为。在 512 GB 统一内存的 M3 Ultra 上测试:4k 上下文贪心解码 36.5 tok/s,4096 token 预填充 419 tok/s,Engram 表可留在 SSD 以节省内存。与原模型逐张量比对仅 124 个去审查编辑张量有差异。

  22. Hugging Face · 新模型:uncensored20

    MishraNepali/Lily-Cybersecurity-7B-Uncensored-GGUF_Q5_K_M 量化版发布

    Hugging Face 用户 MishraNepali 发布 Lily-Cybersecurity-7B-Uncensored 的 GGUF Q5_K_M 重新量化版本,体积从 13.5GB 降至 4.07GB,可在 16GB 内存的 CPU 上运行,也可在 Google Colab 使用。该模型源自 segolilylabs/Lily-Cybersecurity-7B-v0.2(Apache 2.0 协议),中间版本由 NiroshanDH 量化并做 abliteration 处理,推荐上下文窗口 4096 tokens,量化版可能出现模型幻觉。

  23. Hugging Face · 新模型:abliterated22

    TristanUK 发布 onyx-qwen2.5-7b-abliterated-lora-GGUF 量化模型

    TristanUK 在 Hugging Face 发布 abliterated 版 Qwen2.5 7B 的 GGUF 量化模型(Q4_K_M),提供去审查变体供本地推理使用。该模型可通过 llama.cpp 直接运行,支持 llama serve 启动 OpenAI 兼容本地服务器或命令行推理,也提供 Ollama(ollama run)、Docker Model Runner、Lemonade 等拉取运行方式。此外可接入 Pi、Hermes Agent、OpenClaw 等本地 Agent 工具,作为默认模型使用。

  24. Hugging Face · 新模型:uncensored36

    Qwen3.8-Flash-Next-Uncensored Q5_K_S Splash 重打包版发布

    tegsvenson 发布 Qwen3.8-Flash-Next-Uncensored 的 Q5_K_S 重打包 GGUF,将 96 个 hyper-connection inject 张量改为 F32 存储,使其可被 Splash 1.4.0 加载,其余 1,128 个张量与 orcarouter 原版逐字节一致,体积仅增加 12.42 MiB。该版本移除安全对齐(abliterated),在 M4 Max 128 GB 的 MacBook Pro 上经 oMLX 0.7.2 测试,可加载完整 262,144 token 上下文,冒烟测试输出速度 98.4 tok/s。

  25. Hugging Face · 新模型:uncensored35

    Qwen-Image-2.1 Uncensored 量化版发布,支持 GGUF、Safetensors 与 MLX 本地图像生成

    gogogo2727 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,推荐 GGUF 使用 Q4_K_M(4.60 GB)。该版本无内置安全检查器,可直接生成 NSFW 内容,需配合 ComfyUI 与 ComfyUI-GGUF 使用,文本编码器 qwen3vl_8b 可卸载到系统内存以节省 9–17 GB VRAM。

10月22日周四
  1. Hugging Face · 新模型:abliterated25

    Koshkasa 发布 GLM 4.5 Air 的 50% REAP 剪枝版 GGUF(abliterated lossy)

    Hugging Face 上架了基于 huihui 解除限制版 GLM 4.5 Air 制作的 50% REAP 剪枝模型,由 concedo 上传,格式为 GGUF、BF16。相比此前失败尝试,校准数据集被泛化(仍保留 60%/40% 创意偏置),激活记录长度提升到 8192(此前 3072),并用稀疏观察器避免物化整个 [128, dim, tok] 块。模型目前未经测试,可能无法加载或输出乱码。

  2. Hugging Face · 新模型:uncensored56

    AtomicChat 发布 Ling-3.0-flash-Sante 无对齐 GGUF 量化版

    AtomicChat 发布 inclusionAI/Ling-3.0-flash-Sante(127B bailingmoe3 医疗模型)的 abliterated GGUF 量化版,用投影 rank-1 LoRA 移除单一拒绝方向并烘焙进权重。在 W* 点实测:英文有害指令拒绝率 0.0%,俄语误拒率 3.0%(较基线降 1.2 pp),MMLU 基本不变,对基线 BF16 的 KL 为 0.060,工具调用 20/20 有效。注意开启思考模式时拒绝率仍约 40%,建议关闭思考模式使用;提供 IQ4_XS(约 78 GB)与 IQ3_S(约 61 GB)两种量化,MIT 许可。

    推荐理由:原文给出消融方法与拒绝率、MMLU、KL 等前后对照数据,还提示思考模式下拒绝率仍高,读者可据此判断实际效果。

  3. Hugging Face · 新模型:uncensored76

    candor-lab 发布 Qwen3.8-27B Candor Uncensored GGUF 去对齐权重

    candor-lab 在 Hugging Face 发布 Qwen3.8-27B 的去对齐版本 Qwen3.8-27B-Candor-Uncensored-GGUF,用其自研权重编辑工具 Candor 移除原版的拒答方向,以单一 Q4_K_M GGUF(16.81 GB)形式在 llama.cpp 上实测。方法是对 26-63 层注意力输出矩阵和 22-56 层 MLP 输出矩阵做 rank-3 修改(共 73 个矩阵),经 600 次搜索试验筛选。实测显示:288 个 StrongREJECT 有害提示下原版拒答 281 次,该模型仅 1 次(8B 判官口径);300 个无害提示拒答 2 次、GSM8K 答对 1287 题,与原版差异不超噪声;KL 散度 0.038。

    推荐理由:原文给出了消融方法的层级改动细节和与原版、huihui-ai 版的拒绝率与 KL 散度对照数据,可据此评估这个去对齐版本的实际取舍。

  4. Hugging Face · 新模型:abliterated26

    Huihui-GLM-4.5-Air-abliterated-lossy-REAP_50-safetensors 上架 Hugging Face

    Hugging Face 上架了基于 huihui 去限制版 GLM 4.5 Air 制作的 50% REAP 剪枝模型,由 concedo 上传。相比此前尝试,校准数据集被泛化(仍保留 60%/40% 创作偏向)并按源数据重新封装,激活记录长度从 3072 提升到 8192,并采用稀疏 observer 避免物化整个 [128, dim, tok] 块。该模型目前未经测试,可能无法加载、产生乱码或无法量化。

  5. Hugging Face · 新模型:abliterated22

    Koshkasa 发布 GLM 4.5 Air 的 37.5% REAP 剪枝版本(abliterated lossy)

    Hugging Face 上由 concedo 上传的 GLM 4.5 Air abliterated 版本(huihui 去限制版)的 37.5% REAP 剪枝模型。相比此前失败的尝试,校准数据集被泛化(保留 60% creative bias)并按源基准重新打包,激活记录长度从 3072 提高到 8192,并使用稀疏 observer 避免物化整个 [128, dim, tok] 块。模型目前未经测试,可能无法加载或输出乱码。

  6. Hugging Face · 新模型:uncensored58

    Qwen3.8-27B TURBO 微调版发布 GGUF 权重,ARC-C 达 735 并大幅削减思考 token

    DavidAU 团队发布基于 Qwen3.8-27B 的多阶段微调模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供常规与 MTP 两种 NEO imatrix GGUF 量化。8bit 下 ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 591);思考 token 缩减至原版的 1/2 到 1/10。去审查用 Heretic v1.2.0+ 的 ARA 方法,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》