跳到正文
10月22日周四
  1. Hugging Face · 新模型:abliterated36

    Qwen3.8-Flash-Next-Abliterated-Uncensored GGUF 发布

    cc1244578151 在 Hugging Face 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored GGUF 量化模型,规格为 120B 参数、180B 级 512 专家 MoE(每 token 激活 10 个),并搭载 Turbo Brilliance 50x 系统(27 推理 + 27 instruct 模式,另有 9 个 xhigh)与 15 个 AI Constructs。该版本经 abliterated 去审查处理、无 censorship,支持在提示词、API 或 VLLM 中实时切换模式,可在 12GB 显存 GPU 上运行;实测 46GB 双 GPU + 内存 offload 达 17 t/s,全 GPU offload 达 60-90 t/s。

  2. Hugging Face · 新模型:uncensored27

    DeepSeek-R1-Distill-Qwen-32B-Uncensored 发布

    Riyan200324200324 基于 DeepSeek-R1-Distill-Qwen-32B 发布去审查版本 DeepSeek-R1-Distill-Qwen-32B-Uncensored,采用 Guilherme34 的 uncensor 数据集与 QLoRA 微调,遵循 MIT 许可。模型需手动设置指定 system prompt 以获得去审查输出,训练使用 2 x RTX 4090(24 GiB),共 4 个 epoch;因完全依从请求,建议自行加对齐层。

  3. Hugging Face · 新模型:abliterated48

    DeepSeek V4.1 Flash 1017 Abliterated MLX 版本上传中:面向 Apple Silicon 的 oQ2.5e 混合精度检查点

    apetersson 正在上传 DeepSeek V4.1 Flash 1017 Abliterated 的 MLX 版本,为 Apple Silicon 准备的 oQ2.5e 混合精度检查点,共 53 个 Safetensors 分片,包大小约 342.7 GB,尚未完成,需等待 PUBLICATION.json 和 v1-oQ2.5e-mtp 标签发布后再下载。推荐在 256 GiB 统一内存 Mac 上用 oMLX 0.7.2 运行,上下文从 32K 起步,Engram 张量约 114.4 GiB 卸载至本地 SSD;SSD 前缀缓存测试中 8,588 个 token 复用 8,192 个,请求耗时从 14.62 s 降至 1.45 s。

  4. Hugging Face · 新模型:uncensored45

    Qwen3.8-Flash-Next Abliterated 无审查 GGUF 版发布,搭载 Turbo Brilliance 系统

    Hugging Face 用户发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance 的 GGUF 量化版,为 180B 参数、512 专家(每 token 激活 10 个)的无审查 abliterated 模型。其 Turbo Brilliance 系统含 27 推理与 27 instruct 模式及 15 个 AI Construct,可在提示词、API 或 VLLM 中即时切换,instruct 模式 0 thinking token;量化由 GSQ-RCO 完成,可在 12GB 显存 GPU 上运行,RTX6000(96GB)估计达 150 t/s。

  5. Hugging Face · 新模型:abliterated63

    Spark-X2.6-4B-Abliterated GGUF 发布,拒绝率从 43/44 降到 0/44

    alexwkleung 用 Heretic 对 XHToken/Spark-X2.6-4B(dense 4.1B 思考模型)做定向消融,发布 abliterated GGUF 权重,并用 llama.cpp 量化出 Q4_K_M 到 Q8_0 多档。与官方 Q8_0 对照:拒绝率从 43/44 降到 0/44(thinking 开与关均如此),GSM8K n=100 为 88/100 对 91/100,McNemar p=0.45 未检出数学回归;代价是思考开启时平均约 5k tokens(stock 529),部分超出 8192 预算,无拒绝系统提示可将其减半。

    推荐理由:原文给出与官方 Q8_0 逐位对照的拒绝率、GSM8K 和思考开销数据,可据此判断这个去对齐版本的实际代价。

  6. Hugging Face · 新模型:abliterated55

    Sage-A1.5 网络安全向去对齐版发布,MLX 8-bit 量化并保留 MoE MTP 草稿头

    thelogicalgate 基于 InternScience/Sage-A1.5 发布网络安全向拒绝消融(abliteration)版本,打包为 Apple Silicon 原生 MLX 8-bit 量化并保留原训练的 MoE 多 token 预测(MTP)草稿头。校准使用 mlabonne/harmful_behaviors 与 harmless_alpaca 各 128 条提示,在 8–31 层以强度 0.75 修改 72 个输出投影模块,路由权重与 QKV 投影未改动;12 条非工具冒烟提示中拒绝启发式检出基线 2 次、修改版 0 次,本地 Python 反序列化与 IDOR PoC 由基线拒绝变为可产出脚本。

    推荐理由:原文给出了激活校准方向、修改层与拒绝率前后对比等实测细节,读者可据此判断这个去对齐版本的实际改动幅度。

  7. Hugging Face · 新模型:uncensored68

    Subnet46 发布 GLM-5.3-Flash 的 abliterated 无对齐版 EXL3/FP8 权重

    Subnet46 在 Hugging Face 发布 zai-org/GLM-5.3-Flash 的 abliterated 版本,通过正交化移除拒绝方向并直接烘焙进官方 block-FP8 分片,可原位替换原权重。JailbreakBench 有害拒绝率从 0.891 降至 0.094,过度拒绝从 0.094 降至 0.000,MMLU 等四项能力基准变化在 ±1.5 pp 内;部分内容类别不受该方向中介仍接近原拒绝率,权重共 306 GiB,需 8×H100/H200 以张量并行运行。

    推荐理由:原文给出拒绝率前后对比、能力保留数据和拒绝方向所在层的分析,可据此判断这次去对齐实际去掉了多少。

  8. Hugging Face · 新模型:abliterated60

    DevelopingDad 发布 Qwen3.8-Flash-Next-FP4-Local-Abliterated 去对齐权重

    DevelopingDad 在 Hugging Face 发布基于 NVIDIA Qwen3.8-Flash-Next-FP4-Local 的去对齐独立权重,将 trial 117 实验的拒绝方向干预直接烘焙进 checkpoint,无需运行时 adapter。实测显示烘焙版拒绝数为 0/100(开发集)与 3/100(保留集),与原 adapter 的 KL 差异约 0.037 nats;散文解码约慢 12%(34.8 vs 39.4 tok/s),代码速度基本持平,需 B12X vLLM 运行时,serve-spark.sh 支持 262,144-token 上下文与 MTP 投机解码。

    推荐理由:原文给出了拒绝率与 KL 的实测对比和单机性能数据,读者可以据此判断这个去对齐版本的实际代价与效果。

  9. Hugging Face · 新模型:abliterated66

    theJuice85 发布 Qwen3.8-27B 去对齐 LoRA 适配器,硬拒绝率降至约 0

    theJuice85 在 Hugging Face 发布面向 Qwen3.8-27B-GGUF(Q4_K_XL)的去对齐 LoRA 适配器 heretic-qwen38-t26,用 directional ablation 搜索找到。实测将硬拒绝率从基座的 33-86% 降到约 0,能力评测(AIME24、GPQA、MMLU Pro 等 43 个成对项)未发现可统计的能力损失;仅 2.5 MB,AGPL-3.0-or-later。注意其只评测了拒绝率与能力回归,未评测下游安全性,且系统提示词是必要条件,缺失时模型会以带说教的方式作答。

    推荐理由:作者给出成对的拒绝率与能力回归数据,硬拒绝从 33-86% 降到约 0 且能力无可测差异,可据此判断这个去对齐适配器的实际效果。

  10. Hugging Face · 新模型:uncensored50

    BIGJUTT/Qwen3.8-27B-Defiance-Uncensored-MTP-GGUF 使用指南

    BIGJUTT/Qwen3.8-27B-Defiance-Uncensored-MTP-GGUF 是在 HauhauCS 的 uncensored Qwen3.8-27B 权重(866 个 tensor 与上游逐字节一致)上,套用 DavidAU Turbo-Brilliance "AI Construct" 聊天模板的 GGUF 模型,支持 Joker、Dr. House、20-agent Einstein panel、Socratic tutor 等按请求选择的模式。模板内置于每个 GGUF 中,llama.cpp、LM Studio、Ollama 无需额外参数即可加载,文档给出 llama.cpp、vLLM、Ollama、Docker 等多种运行方式,示例量化为 IQ4_XS。

10月21日周三
  1. Hugging Face · 新模型:abliterated68

    Ternary-Bonsai-2 27B 无对齐版重打包为 1.75-bit GGUF 并附 MTP 草稿头发布

    Cheurteen 在 Hugging Face 发布了 Hikari07jp 消融版 Ternary-Bonsai-2 27B 的重打包 GGUF:把三值权重从 2.125-bit 编码重新量化到 Prism 的 1.75-bit PTQ1_0 格式,并将 PrismML 的 MTP 草稿头以 Q4_0 重新量化合并。实测在 RTX 3070 8 GB 上,带草稿头的文件达 69.3 tok/s,无头版本 50.8 tok/s;困惑度 8.2894 优于 2.125-bit 版的 8.4593,MMLU 76.07%、HumanEval pass@1 75.00%,重打包仅改变 0.0943% 的权重、MMLU 差 0.14 点。

    推荐理由:作者不仅重打包了消融权重,还给出困惑度、tok/s 和 MMLU 等前后对照数据,可以看清 1.75-bit 格式相对 2.125-bit 的实际收益。

  2. Hugging Face · 新模型:uncensored54

    AtomicChat 发布面向 DwarfStar 的 DeepSeek-V4.1-Flash-1017 去拒绝 GGUF 版本

    AtomicChat 发布 DeepSeek-V4.1-Flash-1017 的 DwarfStar(ds4)Q2 版 GGUF,把 DeepSeek 的拒绝方向从权重中投影移除,仅替换写入残差流的 122 个张量,其余字节与原文件一致,文件大小 365.7 GB,MIT 许可。同一编辑在 llama.cpp 实测中,JailbreakBench 英文拒绝率从 91.4% 降到 0.0%,XSTest 安全拒绝率从 8.0% 降到 0.4%,MMLU 变化在约 2 分内;该文件本身尚未在 DwarfStar 上测得数据,适用 Metal(Apple Silicon)、单张 CUDA GPU 或 ROCm。

    推荐理由:原文给出同编辑在 llama.cpp 上的 JailbreakBench 等前后实测数据,读者可以据此估算该 Q2 版本的去对齐收益与 MMLU 代价。

  3. Hugging Face · 新模型:uncensored22

    Qwen3.6-35B-A3B-Uncensored Genesis GGUF 版本发布

    burningfeet 在 Hugging Face 发布基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 的 Genesis 版 GGUF 模型,经 Marchenko–Pastur 定律的 SVD 张量去噪修复,0/465 次拒绝。模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文(YaRN 可扩展至 1M),支持文本、图像、视频多模态,兼容 llama.cpp、LM Studio 等运行时。

  4. Hugging Face · 新模型:uncensored80

    AtomicChat 发布 DeepSeek-V4.1-Flash-1017 无拒绝版 GGUF 权重

    AtomicChat 将 DeepSeek-V4.1-Flash-1017 中的拒绝方向从权重中投影移除,发布 GGUF 量化版和 rank-1 LoRA 适配器。实测 JailbreakBench 英文拒绝率从 88.9%/91.4% 降至 0.0%,3.58bpw-Q2_K 档 MMLU 86.0%→86.6%,2.67bpw-IQ1_M 档 MMLU 降至 81.8% 未通过门槛;需支持 DeepSeek-V4.1 的 llama.cpp 构建(如 Unsloth 的 commit 9d907b7cfe0e),Engram n-gram 表可留在 SSD 上分页读取。

    推荐理由:原文给出拒绝率、KLD 和 MMLU 的前后对照数据,还说明各量化档的取舍,读者可据此选择合适的版本。

  5. Hugging Face · 新模型:abliterated48

    Spark-X2.6-4B-Tema_Q-Abliterated 模型发布

    基于 XHToken/Spark-X2.6-4B 的去审查版本,用 Tema_Q-Abliterated v1.1.1(SCAPE 算法)从权重中消融拒绝方向,完整生成测试拒绝 0/100,KL 散度 0.0353。SCAPE 代理目标比常规全生成评估快约 49 倍,CPU 即可运行。用法与基础模型一致,支持 transformers、vLLM、llama.cpp 等。

  6. Hugging Face · 新模型:uncensored78

    AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版

    AtomicChat 放出 BFL 的 FLUX 3 Image Klein 提示词扩展器去拒绝版本,通过投影移除拒绝方向,以 GGUF 和 3MB LoRA 两种形式提供。作为对话模型,英语拒绝率从 63% 降到 0%,俄语从 29% 降到 1%,MMLU 仅从 74.15% 降到 73.95%;在 Klein 文生图管线中未观察到去审查效果,因原始图像模型本身已能画出敏感类别。

    推荐理由:发布方给出拒绝率、MMLU 和量化损失的完整实测数据,读者可据此判断这个去对齐版本的实际代价。

  7. Hugging Face · 新模型:uncensored66

    AtomicChat 发布 FLUX 3 Image Klein 无对齐文本编码器 GGUF

    AtomicChat 发布 FLUX 3 Image Klein 文本编码器 Qwen3-VL-4B-Instruct 的去对齐 GGUF,将拒绝方向从权重中投影移除,供 stable-diffusion.cpp 以 --llm 直接使用。英文拒绝率从 79% 降至 0%,俄语从 32% 降至 0%,MMLU 从 71.1% 到 71.2%;提供 BF16 到 Q4_K 多档量化,并附与 webmp3 Sakura 等同类编码器的对比数据。

    同一新闻,精选展示《FLUX 3 Image Klein 文本编码器去对齐 GGUF 版发布,英文拒绝率从79%降至0%》

  8. Hugging Face · 新模型:uncensored50

    pottokao 发布 LFM2.5-24B-A2B-Uncensored-NVFP4 量化版

    pottokao 在 Hugging Face 发布 LiquidAI LFM2.5-24B-A2B 去审查版的 NVFP4(W4A16)量化模型,经 Heretic ARA 处理后拒绝率从 89/100 降至 0/100。模型体积 14.95 GB(BF16 原版 48 GB),仅 MoE 路由专家采用 NVIDIA ModelOpt 0.45 量化,其余权重保持 BF16,可用 vLLM 部署,适用于研究、红队测试与个人使用。

  9. Hugging Face · 新模型:uncensored53

    LFM2.5-24B-A2B-Uncensored 发布:仅改动一个张量将拒绝率从 89/100 降到 0

    pottokao 发布基于 LiquidAI/LFM2.5-24B-A2B 的去对齐版本,用 Heretic 的 ARA 方法和分布式 Optuna 搜索实现。仅 model.layers.38.self_attn.out_proj.weight 一个张量被改动,BF16 权重、tokenizer 和聊天模板保持官方原样。实测(关闭思考块后测)拒绝率从原版 89/100 降到 0/100,first-token KL 为 0.260;作者提醒不同测法下 KL 数字差异巨大,需同口径对比。用法与原模型相同,支持 transformers / vLLM / SGLang / llama.cpp,官方 DSpark draft 模型在此版本上的接受率尚未测得。

    推荐理由:原文给出只用一个张量的最小改动和关闭思考块前后的 KL 对照,可帮助读者判断去对齐版本的取舍。

  10. Hugging Face · 新模型:abliterated56

    PinoCookie 发布 Qwen3Guard-Gen-4B-Abliterated 去对齐版

    PinoCookie 在 Hugging Face 发布 Qwen/Qwen3Guard-Gen-4B 的 abliterated 版本,移除该安全分类器的有害内容标记行为,而非聊天模型的拒绝行为。在 80+80 对照集上,原版标记 78/80 有害对,消融后标记 0/80,良性选择性保持 80/80 Safe,margin 排序 AUC 从 0.988 降至 0.9755;采用 L32 α=6.0 的单层 o_proj+down_proj 消融点,同配方复现三次结果一致,并在不同主体模型的 40+40 新切片上复验。

    推荐理由:原文给出消融方法、逐层消融网格和 80+80 对照数据,可据此判断这次对 guard 模型的去对齐到底去掉了什么、代价多大。

  11. Hugging Face · 新模型:uncensored54

    xtools-at 发布 Ministral-3-8B-Reasoning-2512 的去对齐版本,拒绝率从 96/100 降至 6/100

    xtools-at 在 Hugging Face 放出 Ministral-3-8B-Reasoning-2512 的去对齐版本,基于 Heretic v2.0.0.dev0 Arbitrary-Rank Ablation(ARA)对第 13 至 25 层做消融。实测 100 次拒绝率从原模型的 96/100 降到 6/100,KL 散度为 0.0839;原模型为带视觉能力的 8.4B 语言模型加 0.4B 视觉编码器,支持 256k 上下文,BF16 需 24GB 显存,量化后低于 12GB。

    推荐理由:原文给出 Heretic ARA 消融参数与拒绝率从 96/100 降到 6/100 的前后对比,KL 散度数据可直接评估去对齐改动幅度。

  12. Hugging Face · 新模型:uncensored66

    DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 题全部合规

    dealignai 发布了 DeepSeek-V4.1-Flash-1017 的去拒绝(uncensored)版本 DeepSeek-V4.1-Flash-1017-UNCENSORED-FP8,通过权重级修改移除拒绝行为,采用原生 FP8(e4m3)加 FP4 MoE 专家权重,保留 1M 上下文、视觉与视频、工具调用和推理档位。实测 HarmBench-320 在 reasoning_effort=max 下 320/320 全部 COMPLY、零拒绝;MMLU logit 评分从基线 87.63% 降至 83.77%(−3.86 pp)。作者建议低比特量化需在目标精度上重做 abliteration 流程,否则合规性可能退化;权重以 MIT 许可发布,需手动申请访问。

    推荐理由:发布方给出了与官方API同提示词的MMLU对照和HarmBench全合规数据,可以据此判断这次abliteration的合规收益与能力代价。

  13. Hugging Face · 新模型:uncensored48

    LxBarn 发布 Ministral-3-3B-Reasoning-UNCENSORED-heretic 去审查版

    LxBarn 基于 unsloth/Ministral-3-3B-Reasoning-2512,用 Heretic v2.0.0.dev0 的 ARA 方法制作去审查版本。去审查后拒绝率从 91/100 降至 1/100,KL divergence 为 0.0170。该 3.4B 语言模型加 0.4B 视觉编码器的推理模型支持 256k 上下文,BF16 下可装入 16GB VRAM,量化后低于 8GB,采用 Apache 2.0 开源协议。

  14. Hugging Face · 新模型:uncensored42

    LxBarn 发布 Qwen-Image-2.1-Uncensored 量化版,支持 ComfyUI 本地生图

    LxBarn 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的无审查(Uncensored)量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 NVFP4 的 4.20 GB 到 BF16 的 14.23 GB 不等,其中 Q4_K_M(4.60 GB)被推荐为 GGUF 体积与质量的最佳平衡。该版本内置 qwen3vl_8b 文本编码器与 VAE 文件,可直接在 ComfyUI 中使用,且无内置安全检查器,可直接生成成人、NSFW 及敏感图像。

  15. Hugging Face · 新模型:uncensored74

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    JonathanColetti 发布 Qwen3.8-27B 的去对齐 GGUF 量化版,用 Heretic 移除拒绝方向,100 条有害提示上的拒绝数从基座的 98 降到 12,首 token KL 散度 0.1191。提供 IQ2_M 到 Q8_0 共六档量化并保留 MTP 头,MMLU、ARC-Challenge、HellaSwag、Winogrande 平均下降 0.5 分,困惑度相对基座 bf16 增加 0.0434,附 ComfyUI 与 llama.cpp 用法及投机解码吞吐数据。

    同一新闻,精选展示《Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100》

  16. Hugging Face · 新模型:abliterated39

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布基于 Qwen/Qwen3.8-27B 的去审查(abliterated)GGUF 版本,通过 abliteration 技术移除模型拒绝回答行为,仅消融部分层(如第 22 至 52 层,0 起始索引),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文;模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  17. Hugging Face · 新模型:abliterated65

    koldfrontier 发布 DeepSeek-V4.1-Flash-1017 FP8 去拒绝 overlay

    koldfrontier 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 FP8 去拒绝 overlay,仅修改 52 个 attn.wo_b 张量(第 10-35 层),其余权重与上游逐字节一致。lambda=2.0/2.5 时 HarmBench 拒绝率从 94.1% 降至约 5%,但授权/未授权安全任务的区分从 8/11 塌缩到 0/11,无害提示的过度拒绝从 3.2% 降到 0.0%;方向向量来自 drowzeys/keys-DeepSeek-V4.1-Flash-1017-Abliterated 的 rank-1 分解,生产环境为 4 节点 DGX Spark (GB10) TP4 环形集群,1M 上下文下连续使用无循环或退化。

    同一新闻,精选展示《koldfrontier 发布 DeepSeek-V4.1-Flash-1017 去拒绝 overlay,52 个张量的 rank-1 修改》

  18. Hugging Face · 新模型:abliterated70

    koldfrontier 发布 DeepSeek-V4.1-Flash-1017 FP8 abliterated 完整权重

    koldfrontier 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 FP8 abliterated 完整权重,仅原地改写 52 个张量(attn.wo_b,第 10-35 层),lambda 2.5,架构不变,可直接用 vLLM 或 SGLang 按原配方部署。实测 1,207 条提示下拒绝率大幅下降,如 HarmBench 从 94.1% 降至 5.0%,过拒率略有改善;代价是一个安全工具的授权/未授权配对从 8/11 降到 0/11,另提供保留 6/11 配对的 lambda 1.0 overlay 版本。

    同一新闻,精选展示《koldfrontier 发布 DeepSeek-V4.1-Flash-1017 abliterated 全量权重》

  19. Hugging Face · 新模型:abliterated70

    koldfrontier 发布 DeepSeek-V4.1-Flash-1017 abliterated 全量权重

    koldfrontier 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 全量权重(476 GB,MIT),通过 rank-1 投影原位改写 52 个张量(attn.wo_b,层 10-35,lambda 2.5)移除拒绝行为。六个提示集共 1,207 条提示实测显示拒绝率大幅下降,如 HarmBench 从 94.1% 降至 5.0%,过拒率略有改善;代价是配对安全工具从 8/11 降到 0/11,另有 1.09 GB 的 overlay 版本可选,含 lambda 1.0 等四种强度。

    推荐理由:原文给出六个提示集共 1,207 条的拒绝率前后对比,以及强度与过拒率的权衡数据,可据此判断这个去对齐版本的实际代价。

  20. Hugging Face · 新模型:abliterated20

    pottokao 发布 MiniMax-H3-TextEncoder-16GB-abliterated-GGUF 模型

    pottokao 在 Hugging Face 上发布 MiniMax-H3-TextEncoder-16GB-abliterated-GGUF 模型,提供 abliterated 版本的 GGUF 格式。该模型可通过 llama.cpp 的 llama serve / llama cli 直接运行,支持启动 OpenAI 兼容本地服务器,并兼容 Ollama、Docker Model Runner、LM Studio、Jan、Pi、Hermes Agent、OpenClaw、Lemonade 等多种工具。

  21. Hugging Face · 新模型:abliterated54

    Ternary-Bonsai-2-27B 无对齐 GGUF 发布,MTP 头重量化后可跑进 8GB 显存

    作者发布 Ternary-Bonsai-2-27B-Abliterated-PQ2_0-MTP-Q4_0-GGUF,在 Hikari07jp 的 abliterated 构建基础上把 MTP 草稿头从 Q8_0(430.41 MiB)重量化为 Q4_0(227.91 MiB),使组合能在 8GB 显卡上运行,实测 RTX 3070 上 45.7 tok/s、7 724 MiB 显存。主干与 abliterated 构建逐位一致,仅 blk.64.* 不同;因 MTP 头只是草稿、输出由主模型验证,困惑度 8.4593 与无头版本 8.4557 在测量误差内,200 个贪心 token 零分歧。

    推荐理由:作者给出逐字节校验和 RTX 3070 8GB 实测数据,说明把 MTP 头降到 Q4_0 后为何不损失输出质量。

  22. Hugging Face · 新模型:uncensored44

    Gemma-4-E4B-Uncensored-HauhauCS-Aggressive 发布:基于 Gemma 4 E4B-IT 的无审查版本

    HauhauCS 发布 Gemma-4-E4B-Uncensored-HauhauCS-Aggressive,基于 google/gemma-4-e4b-it 的 abliterated 无审查版本,0/465 拒答,不改动数据集与能力。模型为 4B 参数、131K 上下文、原生多模态,提供 Q8_K_P 至 Q2_K_P 多种 GGUF 量化,K_P 量化以约 5-15% 更大文件换取提升 1-2 级的质量,兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  23. Hugging Face · 新模型:abliterated69

    koldfrontier 发布 DeepSeek-V4.1-Flash-1017 去拒绝 overlay,52 个张量的 rank-1 修改

    koldfrontier 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的去拒绝 overlay,仅修改 26 层 attn.wo_b 共 52 个张量,其余权重与上游 checkpoint 逐字节一致,全程保持原生 FP8 格式。

    推荐理由:原文给出六个评测工具、1207 条提示的拒绝率实测和 lambda 选择依据,读者可据此判断这个去对齐 overlay 的实际代价。

  24. Hugging Face · 新模型:uncensored65

    dealignai 发布 Ornith-1.5-122B 无对齐 GGUF 版本,附拒绝率与能力评测数据

    dealignai 在 Hugging Face 发布 Ornith-1.5-122B 的去对齐 GGUF 版本,基于 Qwen3.5 系混合 GatedDeltaNet + 全注意力 MoE 架构(122B 总参数 / 10B 激活),提供 Q4_K_M(79.4 GB)和 IQ2_XXS(44.1 GB)两种量化,均保留原生 MTP 自推测解码与视觉塔。HarmBench-320 评测中 IQ2_XXS 真实合规率 99.7%、Q4_K_M 为 97.8%;MMLU-5k 显示 Q4_K_M 整体较基座下降 2.85pp、IQ2_XXS 下降 5.08pp。模型支持 llama.cpp 部署与 enable_thinking 开关,MIT 许可,作者提醒需自行添加下游安全控制后再面向终端用户部署。

    同一新闻,精选展示《dealignai 发布 Ornith-1.5-122B-UNCENSORED-NVFP4 去对齐量化版》