跳到正文
10月11日周日
  1. Hugging Face · 新模型:abliterated25

    Holo4-27B-abliterated EXL3 6bpw 量化版本发布

    Hugging Face 用户发布基于 Hcompany/Holo4-27B 的 abliterated 版本的 EXL3 量化模型,目标 6 bpw,转换器报告码率为 6.0,并移除了悬空的 MTP 配置。该模型源自 timteh673/Abliterix 制作的 refusal-direction ablation 版本,采用 CC BY-NC 4.0 仅限非商业使用,同时附带原始 Qwen 基座的 Apache-2.0 许可。发布前已通过 EXL3 加载生成非空文本的冒烟验证,但不包含任何 benchmark 分数,需使用 EXL3 兼容推理软件。

10月10日周六
  1. Hugging Face · 新模型:uncensored44

    SargeDev 发布 JEV-27B-Uncensored-NVFP4:JEV 27B 家族首个去审查版本

    SargeDev 发布 JEV-27B-Uncensored-NVFP4,将 AutoTrust 的 System-1 决策模块合并到 huihui-ai 去审查版 Qwen3.8-27B 骨干上,成为 JEV 27B 家族首个 uncensored 版本,以 NVFP4(W4A4 + FP8 down_proj)量化、支持 vLLM 部署、上下文长度 32768。模型基于 740,957 行的 jev-distill-corpus-v3 语料训练。在 27,695 行测试集上,noul AUROC 为 0.985,但 choice top-1 降至 0.855、score top-1 降至 0.797,均低于 AutoTrust 的验收底线。

  2. Hugging Face · 新模型:uncensored51

    SargeDev 发布 JEV-27B-VL-Uncensored,将 System-1 决策模块合并进 abliterated Qwen3.8-27B

    SargeDev 在 Hugging Face 发布 JEV-27B-VL-Uncensored,把 AutoTrust 的 System-1 决策模块合并进 huihui-ai 的 abliterated Qwen3.8-27B backbone,使决策输出不经过原模型的拒绝机制。在 27,695 行测试集上,noul AUROC 0.985、choice top-1 降至 0.855、score top-1 降至 0.797,KL 0.055,重校准后各 ECE 指标达标;10 条 prompt 测试拒绝率为 0.0。

  3. Hugging Face · 新模型:uncensored62

    SargeDev 发布 JEV-27B-Uncensored,将 AutoTrust 决策模块合入 abliterated Qwen3.8-27B

    SargeDev 在 Hugging Face 发布 JEV-27B-Uncensored,是 JEV 27B 家族首个 uncensored 成员,将 AutoTrust 的 System-1 决策模块合入 huihui-ai 的 abliterated Qwen3.8-27B 骨干(第 18-51 层消融,视觉塔未动),使决策引擎在无拒绝线路下输出。

    推荐理由:原文给出了消融层范围、决策指标前后对比和拒绝率实测,读者可以据此判断去对齐带来的能力代价。

  4. Hugging Face · 新模型:uncensored61

    SargeDev 发布 JEV-27B-Uncensored GGUF,去审查骨干合并 System-1 决策块

    SargeDev 在 Hugging Face 发布 JEV-27B-Uncensored-GGUF,将 AutoTrust 的 System-1 决策块合并进 huihui-ai 消融版 Qwen3.8-27B(layers 18-51 ablated)骨干,使决策引擎在无拒绝接线下输出。在 jev-distill-corpus-v3 的 27,695 行 held-out 测试集上,与原 JEV-27B 相比 choice top-1 降 4.9 分、score top-1 降 9.3 分,noul AUROC 0.985 通过门槛,10 条 prompt 电池拒绝率为 0;附带 24 槽决策头、校准文件、serve_decide.py vLLM 服务器及 Q8_0 / Q4_K_M / f16 量化。

    同一新闻,精选展示《SargeDev 发布 JEV-27B-Uncensored,将 AutoTrust 决策模块合入 abliterated Qwen3.8-27B》

  5. Hugging Face · 新模型:uncensored69

    GLM-5.3-Flash 无对齐 FP8 权重发布:HarmBench-320 零拒绝且 MMLU 超原版

    dealignai 以 CRACK 方式对 GLM-5.3-Flash 做权重级去审查,发布 FP8 版本(320B 总参数、每 token 激活 18B),HarmBench-320 上 320/320 全配合、0 拒绝,MMLU 87.33% 高于原版 86.74%。2026-08-28 修复了重复循环问题并请用户重新下载;低推理档仍保留部分拒绝,推荐用 reasoning-off 或 max 档。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  6. Hugging Face · 新模型:uncensored67

    YueFong 发布 Qwen-Image-2.1-Turbo 去拒绝文本编码器 GGUF,英文拒绝率从 88.9% 降至 1.2%

    AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored-GGUF,将 Qwen-Image 的文本编码器 Qwen3-VL-8B-Instruct 的拒绝方向投影移除,作为 stable-diffusion.cpp 的 --llm 使用。编码器作为聊天模型时,英文拒绝率从 88.9% 降至 1.2%,俄语从 38% 降至 0%,MMLU 保持 77.35% 不变;实测显示 Qwen-Image 开源管线本就无过滤,45 条敏感提示词的结果一条都没有改变,图像仅有约 0.088 的 LPIPS 偏移。

    同一新闻,精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%》

  7. Hugging Face · 新模型:abliterated66

    Swift-1.5-Qwen3.8-Flash-Next GSQ-RCO 量化模型发布 abliterated 去对齐 GGUF 版本

    cc1244578151 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过字节级张量移植从 orcarouter 的 Uncensored 版本替换 144 个写入残差流的张量,去除拒绝方向。98% 的目标参数(ffn_down_exps,40.3B)与 base 逐字节相同,每层 blake2b 校验确认 144 个变更、1080 个不变。提供 IQ3_S / IQ3_XXS / IQ2_XS / Q2_0 四档,文件比上游略小;IQ2_XS 下 decode 慢 2.2%、思考 token 均值 552 vs 471(p=0.607 无显著差异),代码任务 15/15 通过。

    同一新闻,精选展示《Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 上架 Hugging Face:144 张量字节级移植去对齐》

  8. Hugging Face · 新模型:uncensored76

    AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%

    AtomicChat 在 Hugging Face 发布去对齐版 Qwen-Image-2.1-Turbo 文本编码器 GGUF,将 Qwen3-VL-8B-Instruct 的拒绝方向从权重中投影去除。作为聊天模型,英文拒绝率从 88.9% 降到 1.2%,俄语从 38% 降到 0%,MMLU 保持 77.35% 不变;45 条敏感图像提示词测试中无一翻转,图像输出仅有约 0.088 的 LPIPS 漂移。提供 BF16 到 Q2_K 量化分档,配 stable-diffusion.cpp 的 --llm 参数本地运行,方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    推荐理由:原文完整给出拒绝方向消融方法、拒绝率前后对照和量化分档对画面的影响,可据此自行评估这个去对齐编码器的实际改动幅度。

  9. Hugging Face · 新模型:uncensored43

    HauhauCS 发布 Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 去审查模型

    HauhauCS 在 Hugging Face 发布基于 Qwen3.6-35B-A3B 的去审查(abliterated)模型 Aggressive 版本,宣称 0/465 次拒绝,数据集和能力与原版完全一致。模型总参数 35B、每次前向激活约 3B(MoE),256 个专家中每个 token 路由 8 个,原生 262K 上下文,支持文本、图像、视频多模态。提供 K_P 自定义量化(等效提升 1-2 个量化等级、文件仅大 ~5-15%),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  10. Hugging Face · 新模型:abliterated68

    LFM2.5-350M abliterated 去对齐版发布,拒绝率从 20/25 降至 0/25

    haddockaihamburg 发布 LiquidAI/LFM2.5-350M 的 abliterated 去对齐版本,用 heretic 工具(方向消融加 TPE 参数优化,20 次 Optuna 试验)全自动生成。独立实测 25 条有害提示的拒绝率从基座的 20/25 降到 0/25;lm-eval 七项 0-shot 基准显示 6 项小幅下滑,其中 WinoGragne 降 6.4、ARC-Easy 降 4.8,超出噪声区间,作者提醒推理敏感任务需复检质量。权重以 bf16 合并,无需 adapter,沿用基座的 LFM Open License v1.0,面向对齐与消融方法研究。

    推荐理由:作者给出了独立测得的拒绝率前后对比和七项基准的降幅明细,读者可据此判断这次消融的收益与代价。

  11. Hugging Face · 新模型:abliterated73

    anlord 放出 Gemma-4-E2B-it 消融版,拒绝率从 99/100 降至 4/100

    anlord 在 Hugging Face 发布 google/gemma-4-E2B-it 的 abliterated 版本,用方向消融直接原地改权重,无微调无 LoRA,拒绝率从 99/100 降到 4/100,KL 散度为 2.9072。方法为 Anlord Abliterator 1.6.0 加 Optuna TPE 多目标搜索(100 trials,seed 42),仅修改 35 层文本塔,视觉与音频编码器保留原权重;仓库附带 4 点 Pareto 前沿的更温和变体参数和完整逐字节复现包,GGUF 量化在配套仓库 anlord/gemma-4-E2B-it-abliterated-GGUF 提供 F16 至 Q4_0。

    推荐理由:原文给出了完整的消融方法、拒绝率与KL偏移数据及四点Pareto前沿,读者可按需选择去对齐强度并逐字节复现。

  12. Hugging Face · 新模型:abliterated57

    anlord 发布 google/gemma-4-E2B-it 的 abliterated GGUF 量化版

    anlord 在 Hugging Face 发布 gemma-4-E2B-it-abliterated 的 GGUF 量化合集,原模型消融拒绝行为后每 100 条有害提示的拒绝数从 99 降到 4。提供 bf16 到 Q4_0 共 12 个量化文件,全部由同一 F16 源用 llama-quantize 转换,8 GB 显存的 GPU 可完整容纳 Q4_K_M 至 Q8_0,仅含文本塔,多模态推理需用父仓库 safetensors,许可沿用 Gemma 条款。

    推荐理由:原文给出拒绝率前后对比和各量化档位的实测说明,读者可按显存预算直接挑选合适档位。

  13. Hugging Face · 新模型:uncensored79

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    作者发布了 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(IQ2_M 到 Q8_0),用 Heretic 移除拒绝方向,保留 MTP 头,拒绝行为显著减少但未消除,从 100 个有害提示中的 98 个降至 12 个。权重编辑带来约 0.043 的困惑度增加(相对约 0.7%),MMLU、ARC-Challenge、HellaSwag、Winogrande 四项基准平均下降 0.5 分且均在标准误内。模型卡同时给出 imatrix、自建低比特量化方法和 MTP 投机解码实测(n_max 1 时约 1.19x-1.28x 加速)。

    推荐理由:作者给出了 Heretic 消融方法、拒绝率从 98/100 降到 12/100 以及困惑度和基准的前后对照数据,可以据此判断权重编辑的实际代价。

  14. Hugging Face · 新模型:uncensored76

    dealignai 发布 DeepSeek-V4.1-Flash 权重级消融无对齐版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 骨干)的权重级消融版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,HarmBench-320 攻击成功率从基座的 42.81% 提升到 100%,且在各 effort 档位均为 320/320。MMLU-14k 整体下降 4.22pp,剔除伦理类题目后仅降 1.1pp,符合 3pp 能力保留目标;卡片还提供 SGLang 部署命令、硬件实测(4×H200,约510GB 权重)与启动注意事项。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  15. Hugging Face · 新模型:uncensored71

    GLM-5.3-Flash UNCENSORED FP8 发布,HarmBench-320 拒绝率归零且 MMLU 略升

    dealignai 以 CRACK 权重级去审查方式发布 GLM-5.3-Flash UNCENSORED FP8(320B 总参数、18B 激活、1M 上下文),在 reasoning-off 和 max 档 HarmBench-320 上 320/320 全部顺从、0 拒绝,MMLU 87.33% 高于 base 的 86.74%。模型支持视觉与 MTP 投机解码(75.9% 接受率),H200 原生 FP8 解码 163 tok/s。文中还给出部署要点,如 reasoning_effort 只接受 low/high、max 档需 max_tokens ≥ 6000、视频 fps 需低于原帧率等;2026-08-28 修复重复循环问题后需重新下载。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  16. Hugging Face · 新模型:uncensored63

    j-llm 发布 Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版

    j-llm 在 Hugging Face 发布 orcarouter/Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版,约 19.2 GB,5.13 bits/weight。该量化基于对 uncensored 权重直接测量的逐层 KL 敏感度分配精度,保留 BF16 视觉塔与 MTP head sidecar,262,144 token 上下文;Capability Score 88.86,高于参考版 mlx-community/Qwen3.8-27B-OptiQ-4bit 的 87.98。

    推荐理由:原文给出逐层 KL 敏感度测量和 6 项基准对比,读者可评估混合量化相对参考版的质量取舍。

  17. Hugging Face · 新模型:abliterated76

    Qwen3.8-27B abliterated 版本发布,权重级消融将拒绝率从 99.3% 降至 0%

    rajaykumar12959 在 Hugging Face 发布 Qwen/Qwen3.8-27B 的 abliterated 版本,用 difference-in-means 方向对每个残差写入权重矩阵做正交化,消融直接写入 checkpoint,无 runtime hook 和 LoRA,仅含语言模型部分(bf16,text-only,约需 55 GB 显存)。在 292 个 held-out 有害提示上拒绝率从 99.3% 降至 0%,覆盖全部 12 个类别;代价是 MMLU-Pro 从 65.1% 降至 61.8%(−3.3 pp),harmless 提示上的 KL 散度为 0.086 nats。

    推荐理由:给出了完整的消融方法、逐层扫描和拒绝率前后对比数据,读者可以据此评估这次去对齐的实际代价与副作用。

  18. Reddit · r/SillyTavernAI29

    在 SillyTavern 搭建本地微调无审查 RP 引擎的计划:Gemma 4 26B-A4B + LoRA 微调

    一位 Reddit 用户公布了在 SillyTavern 上搭建本地、无审查 RP 引擎的计划,目标是让模型像 GPT 4o-5.1 那样对话。他从聊天记录提取了 7000 多条样本生成 JSONL 训练文档,计划在 RunPod 和 Unsloth 上用 LoRA 或 QLoRA 微调 HuggingFace 上的 abliterated 版 Gemma 4 26B-A4B,成本约 $13、耗时 8 小时。之后转为量化 GGUF,用 llama.cpp 运行,并通过 Tailscale 和 Termux 从手机连接使用。

  19. Hugging Face · 新模型:abliterated68

    Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本发布,拒绝率从 43/44 降至 14/44

    alexwkleung 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本,用 Heretic 消融 662 个 tensor,拒绝率在 enable_thinking 为 false 时从 43/44 降至 14/44,GSM8K 89/100 无明显回归。作者还发现 Heretic 1.4 在 Transformers 5 的融合 MoE 模块上会静默跳过专家层,此构建将融合专家拆回独立 Linear 后再消融,提供 Q4_K_M 到 Q8_0 共四档量化文件与 sha256 校验值。

    推荐理由:卡片给出消融修改的 tensor 清单和拒绝率前后对照,还包括 Heretic 在 MoE 融合模块上静默失败的具体坑与修复方法。

  20. Hugging Face · 新模型:abliterated24

    huihui-ai 发布 Phi-4-multimodal-instruct-abliterated GGUF 模型

    huihui-ai 基于 microsoft/Phi-4-multimodal-instruct 制作的去审查版 Phi-4-multimodal-instruct-abliterated 已上传 Hugging Face,采用 abliteration 技术移除模型的拒绝行为,且仅处理了文本部分、未处理图像部分。模型可用 Hugging Face transformers 库加载,支持 flash_attention_2 与 bfloat16。

  21. Hugging Face · 新模型:abliterated29

    sathya801 发布 NeuralDaredevil-8B-abliterated Q5_K_M GGUF 量化模型

    sathya801 在 Hugging Face 发布 NeuralDaredevil-8B-abliterated 的 Q5_K_M GGUF 量化版本,使用 llama.cpp 的 ggml.ai GGUF-my-repo 空间从 mlabonne 的原模型转换而来。用户可通过 llama-cli 或 llama-server 直接加载该模型,也可在 Llama.cpp 中自行编译并推理,server 模式示例使用 -c 2048 上下文。模型细节可参考原始模型卡。

10月9日周五
  1. Hugging Face · 新模型:abliterated75

    Kujira 发布 Underdog Saluki 27B 1.0 MTP 去拒答 GGUF 版

    Kujira 在 Hugging Face 发布 Underdog-Saluki-27B-1.0-MTP 的 abliterated GGUF 版,仅改动第 35–36 层的 4 个张量,其余 862 个张量与原文件字节级一致,未做训练。有害提示词拒绝率从 99% 降到 1%(开思考时 78% 到 2%),英语困惑度上升 1.6%、日语上升 1.8%,速度和显存与 MTP 版相同,约 58–62 tok/s,12 GB 显卡可用 40K 上下文。消融方法未公开。

    推荐理由:原文列出消融改动的具体张量、拒绝率前后对比和困惑度变化,读者可以评估这个去对齐版本的代价。

  2. Reddit · r/LocalLLaMA45

    Qwen3.8-Flash-Next-GSQ-RCO (IQ3_S) 在 12GB VRAM 上实现 20-30 tok/sec 解码与最高 90k tok/sec 预填充

    Reddit 用户在 Strata 自定义 fork 上,以 IQ3_S 量化将 Qwen3.8-Flash-Next-GSQ-RCO-Abliterated 跑在 12GB VRAM + 32GB RAM + NVMe 配置上,实现 20-30 tok/sec 解码(Q2 量化可达 39-45 tok/s)和 300 至约 9 万 tok/sec 预填充,上下文达 131k。该 fork 包含大量实验性架构改动,可能不稳定。作者称其部分表现接近本地版 Opus,算力成本低于 2k。

  3. Hugging Face · 新模型:abliterated21

    Qwen2.5-1.5B-Abliterated 上架 Hugging Face:基于权重正交化的教育性 abliteration 演示模型

    jaswanthsanjay88 在 Hugging Face 发布 Qwen2.5-1.5B-Abliterated,一个基于 Qwen2.5-1.5B-Instruct 的教育演示模型,采用 Arditi et al. (2024) 的权重正交化(abliteration)方法。干预作用于第 16 层 residual write projections,校准数据采样自 AdvBench harmful 和 Alpaca cleaned 数据集,用于大学教学中展示对齐模型的行为防护如何映射到 transformer 残差流中的线性子空间。

  4. Hugging Face · 新模型:uncensored57

    dima6312 发布 Swift-1.5-Qwen3.8-27B Uncensored 的 MLX oQ4e 量化版

    dima6312 在 Hugging Face 上发布 ajgazin 的 Swift-1.5-Qwen3.8-27B Uncensored(UkisAI Swift 1.5 的 abliterated 版)的 MLX oQ4e 量化,体积 17.0 GB、4.9 bits per weight,仅做量化未改其他内容,并保留 MTP 头以支持 oMLX 中的自推测解码。在 M4 Pro 48GB 上实测:编码任务 21/24、工具调用 27/30、100 条提示词拒绝 11 次(原模型为 97 次),解码 39.8 tok/s,MTP 接受率 87.5%;模型沿用 Swift Open License v1.0,年收入超 100 万美元的组织商用需 UkisAI 的企业授权。

    推荐理由:作者用统一的拒绝率测试对比了量化版与原模型,还保留了 MTP 头并给出解码速度,量化质量有实测数据可查。

  5. Hugging Face · 新模型:abliterated57

    LFM2.5-2.6B abliterated 去对齐版发布,25条有害提示拒绝率降至0/25

    haddockaihamburg 在 Hugging Face 发布了 LiquidAI/LFM2.5-2.6B 的 abliterated 去对齐版本,用 heretic 工具(方向性消融加 TPE 参数优化、Arbitrary-Rank Ablation 合并权重)全自动生成,无需手动调参,heretic 共跑20次 Optuna 试验并恢复 Pareto 前沿顶部。独立于 heretic 评分器的实测显示,25条有害提示中基座模型拒绝22次,该版本拒绝0次;作者提醒仅25条提示、单一随机种子,不能将拒绝率数字解读为无能力损失,也未跑完整基准。

    推荐理由:原文给出了消融方法与独立实测的拒绝率对比,并坦承只有25个提示词、单种子运行,读者可据此自行评估其参考价值。

  6. Hugging Face · 新模型:abliterated41

    Huihui-Qwen3.8-27B-abliterated GGUF 量化版本更新

    Huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版 GGUF 量化模型,多次更新新增 UD、UD-DW、GSQ-RCO、Ternary、Swift 等系列,其中部分版本仅消融第 22 至 52 层(0 起始索引)。模型提供 Q2_K_L 至 Q8_0_L 等量化格式,支持上下文长度 262144,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行。官方提示安全过滤已显著降低,建议仅用于研究和测试环境。

  7. Hugging Face · 新模型:abliterated75

    GLM-5.3 (753B) 权重级去审查版发布,NVFP4 量化附拒绝率与 MMLU 对比

    dealignai 以 CRACK 方法发布 GLM-5.3 (753B, ~18B 激活) 的权重级去审查版本 GLM-5.3-ABLITERATED-NVFP4,宣称不用微调、LoRA 或越狱提示,直接在张量中移除拒绝行为,面向授权渗透测试与安全研究。HarmBench 实测 high/max 模式下 156 条提示 0 拒绝,off 模式拒绝率 7.3%(多为版权类);MMLU 84.11%,较 base 的 85.58% 降约 1.5pp。模型给出 vLLM 部署命令,NVFP4 版在 GB10 上 KV 池达 35 GiB/rank,可支撑 TP8 下 512K 实用上下文。

    推荐理由:原文给出 HarmBench 拒绝率和 MMLU 前后对比数据,读者可以据此判断这个权重级去对齐版本的实际效果与能力损失。

  8. Hugging Face · 新模型:abliterated69

    hotdogs 发布 Ternary Bonsai 2 27B 去对齐合并版,约7.6GB 单卡可跑

    hotdogs 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-PQ2_0-MTP,基于 BoldingBuilds 的去拒绝 v2 版,以 0.4 scale 合并 Swift 去对齐与 ThinkingCap 省 token 推理两个 SVD-LoRA。模型采用 PQ2_0 三元量化(约2.13 bits/weight),27.3B 参数仅约 7.6 GB,支持 262,144 token 上下文、视觉输入和 MTP 投机解码。仅能通过 PrismML 的 llama.cpp fork 加载,主线程 llama.cpp、Ollama 和 LM Studio 均不支持。

    推荐理由:原文给出abliteration的张数、MMLU损失和各LoRA保留能量,合并构建的局限与适用范围都写得很透明。

  9. Hugging Face · 新模型:abliterated21

    mradermacher 发布 Ostrich-27B-261008-Qwen3.8-Abliterated GGUF 量化版本

    mradermacher 在 Hugging Face 发布 Ostrich-27B-261008-Qwen3.8-Abliterated 的静态 GGUF 量化版本。提供多种量化格式,其中 Q4_K_S 为 15.9 GB、速度快且被推荐,另含 mmproj-Q8_0(0.7 GB)与 mmproj-f16(1.0 GB)多模态补充文件;weighted/imatrix 量化暂未提供,用户可通过 Community Discussion 申请。

  10. Hugging Face · 新模型:abliterated33

    ThinkingCap-Qwen3.8-27B-abliterated UD-Q4_K_XL GGUF 量化版发布

    groxaxo 在 Hugging Face 发布 ThinkingCap-Qwen3.8-27B-abliterated 的 UD-Q4_K_XL GGUF 量化版,共 866 个张量,直接从 BF16 checkpoint 转换并采用 Unsloth 的张量布局与 imatrix。附带独立 MTP draft、视觉 mmproj 和 chat_template.jinja,支持 llama.cpp 的 --spec-type draft-mtp 投机解码、enable_thinking 以及 low/medium/xhigh 推理力度。模型采用 PolyForm Small Business License 1.0.0,仓库声明不提供新的质量基准。

  11. Hugging Face · 新模型:abliterated64

    Maximilian228 发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 NVFP4 GPTQ 量化包

    Maximilian228 在 Hugging Face 发布了 huihui-ai 消融版 Qwen3.8-Flash-Next 的 NVFP4 量化包,全部路由专家用 GPTQ(而非 RTN)从 BF16 检查点量化,可在单张 RTX 20-50 显卡(12 GB 以上显存、64 GB 以上内存)上通过 Strata NVFP4 运行 125B 混合 MoE。在留出 token 上,GPTQ 的加权相对误差为 RTN 的 33.5%,48 层全部优于 RTN;实测 182.8 tok/s 解码、2810 tok/s prefill,解码成本与 RTN 持平。

    推荐理由:原文给出完整的 GPTQ 量化方法和 48 层误差对比数据,读者可以据此评估 NVFP4 消融模型的精度与部署成本。

  12. Hugging Face · 新模型:uncensored75

    OrcaRouter Qwen3.8-Flash-Next-Uncensored 发布 GPTQ 量化 NVFP4 权重包

    Maximilian228 在 Hugging Face 发布 OrcaRouter Qwen3.8-Flash-Next-Uncensored 的 NVFP4 (GPTQ) 量化包,供 Strata NVFP4 引擎在单张 12 GB 以上 VRAM 的 RTX 20-50 显卡加 64 GB 内存上运行这个 125B 混合 MoE 模型。模型为 abliterated 去对齐微调,权重中移除了拒绝方向,不拒绝有害请求。作者用 GPTQ 从 BF16 checkpoint 重量化全部路由专家, held-out 误差为 ModelOpt RTN 量化的 33.4%,48 层全部低于 RTN,解码速度与 ModelOpt 包基本持平(约 185.6 对 191.6 tok/s)。

    推荐理由:作者给出完整的 GPTQ 重量化方法和逐层误差对比,NVFP4 去对齐版相对 ModelOpt 量化把误差降到约三分之一。

  13. Hugging Face · 新模型:abliterated45

    Huihui-Qwen3.8-Flash-Next-abliterated 推出 Orinfer E8P Q2A8 量化版,面向 Jetson AGX Orin 64GB 部署

    immiq 发布 huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 Orinfer E8P Q2A8 量化部署包,专为 Jetson AGX Orin 64GB 设计,源模型通过 abliteration 减少拒答。模型支持文本、多图、thinking、prefix caching 和原生 MTP(最多 7 drafts),上下文容量 262,144 tokens,只读权重约 51.4 GB。在 Jetson AGX Orin 64GB 实测中,文本预填充 8,192 tokens 达 809 tokens/s,Python 代码生成解码速度 53.84 tokens/s,权重采用 Qwen Community License 1.0 许可。

  14. Hugging Face · 新模型:uncensored40

    Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 版本发布,0/465 拒答

    HauhauCS 基于 Qwen3.6-35B-A3B 发布无审查 Aggressive 版本,测得 0/465 拒答,数据集与能力无改动。模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生支持 262K 上下文和文本、图像、视频多模态,并提供 Q8_K_P 到 IQ2_M 多档 GGUF 量化(含 K_P 自定义量化),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  15. Hugging Face · 新模型:uncensored37

    Connect AI Lab 发布 Qwen3-0.6B 实验性“去审查方向移除”模型 Uncensored

    Connect AI Lab 基于 Qwen3-0.6B 制作了一个实验性方向移除模型 Uncensored:通过激活值差异选出第 24 层方向,修改 57 个写入路径,修改后权重约 0.75B。在 CPU FP32 测试中,原始模型拒绝短语匹配 4/4,修改版本为 0/4,但作者明确说明这只是课堂实验,并非所有拒绝都被解除。权重尚未开放下载,准备的 GGUF 文件约 805 MB,已在 LM Studio 中验证可加载并运行 API。

  16. Hugging Face · 新模型:uncensored20

    Gemma3-Prompt.Coder.it.Uncensored-270m 的 ONNX 版本在 Hugging Face 上线

    onnx-community 发布 WithinUsAI/Gemma3-Prompt.Coder.it.Uncensored-270m 的 ONNX 版本,可通过 Transformers.js 的 text-generation 管线使用。该模型基于 google/gemma-3-270m-it,用 mergekit 以 SLERP 方法合并 4 个模型而成,是无审查的提示词扩展模型。其安全过滤被大幅削弱,可能生成敏感内容,官方建议仅用于研究或受控环境,不适合生产环境使用。