跳到正文
10月10日周六
  1. Hugging Face · 新模型:abliterated68

    LFM2.5-350M abliterated 去对齐版发布,拒绝率从 20/25 降至 0/25

    haddockaihamburg 发布 LiquidAI/LFM2.5-350M 的 abliterated 去对齐版本,用 heretic 工具(方向消融加 TPE 参数优化,20 次 Optuna 试验)全自动生成。独立实测 25 条有害提示的拒绝率从基座的 20/25 降到 0/25;lm-eval 七项 0-shot 基准显示 6 项小幅下滑,其中 WinoGragne 降 6.4、ARC-Easy 降 4.8,超出噪声区间,作者提醒推理敏感任务需复检质量。权重以 bf16 合并,无需 adapter,沿用基座的 LFM Open License v1.0,面向对齐与消融方法研究。

    推荐理由:作者给出了独立测得的拒绝率前后对比和七项基准的降幅明细,读者可据此判断这次消融的收益与代价。

  2. Hugging Face · 新模型:abliterated73

    anlord 放出 Gemma-4-E2B-it 消融版,拒绝率从 99/100 降至 4/100

    anlord 在 Hugging Face 发布 google/gemma-4-E2B-it 的 abliterated 版本,用方向消融直接原地改权重,无微调无 LoRA,拒绝率从 99/100 降到 4/100,KL 散度为 2.9072。方法为 Anlord Abliterator 1.6.0 加 Optuna TPE 多目标搜索(100 trials,seed 42),仅修改 35 层文本塔,视觉与音频编码器保留原权重;仓库附带 4 点 Pareto 前沿的更温和变体参数和完整逐字节复现包,GGUF 量化在配套仓库 anlord/gemma-4-E2B-it-abliterated-GGUF 提供 F16 至 Q4_0。

    推荐理由:原文给出了完整的消融方法、拒绝率与KL偏移数据及四点Pareto前沿,读者可按需选择去对齐强度并逐字节复现。

  3. Hugging Face · 新模型:uncensored56

    Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED 微调模型发布,拒绝率从 100/100 降至 6/100

    cookies55 在 Hugging Face 发布了 Qwen3.5-9B 的去审查微调版,用 Unsloth 在本地硬件以 Claude 4.6 大型蒸馏数据集训练,经 Heretic 消融后拒绝率从 100/100 降到 6/100,KL 散度为 0.0793。该版本为 INSTRUCT 模式并修改了 jinja 模板,图像输入经测试可用,视频部分未测试,建议最低 q4ks(非 imatrix)或 IQ3S(imatrix)量化。

    推荐理由:作者给出了消融后的 KL 散度和拒绝率前后对比,以及七项基准分数变化,读者可自行判断去对齐的代价。

  4. Hugging Face · 新模型:uncensored60

    HauhauCS 发布 Qwen3.8-27B Uncensored Aggressive 变体的 GGUF 量化与 FastMTP 加速方案

    HauhauCS 在 Hugging Face 发布基于 Qwen3.8-27B 的 Uncensored Aggressive 无对齐变体 GGUF 量化,实测 0/465 次拒绝,无前导客套地直接回答。所有文本 GGUF 保留原生 NextN/MTP 头,并附带 HauhauCS FastMTP 32K 加速 sidecar,在 RTX PRO 6000 上对比关闭 MTP 时文档 TG 最高达 3.02x、推理 TG 最高 1.93x,Q8_K_P 档位比标准内嵌 MTP 快 35.2%/21.1%;提供 Q2 至 Q8 及 IQ 系列量化、BF16 视觉 projector、llama.cpp 补丁与部署命令,附 Ed25519 签名清单校验。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  5. arXiv · cs.CL22

    FASD 方法解耦多模态大模型遗忘中的知识遗忘与拒答学习

    arXiv 论文提出 Forget-Aware Self-Distillation(FASD),针对多模态大模型遗忘评估只看停止输出导致的两类问题:抑制目标知识引发幻觉、拒答训练只是改变表面行为。FASD 分为行为与知识两条通道,前者从忽略提示的模型副本蒸馏拒答行为并掩蔽 target tokens,后者直接抑制 ground-truth 答案片段,实现"诚实无知":模型真正遗忘目标知识且能识别自身知识边界,同时保留数据性能。代码和数据将在论文发表后发布。

  6. Hugging Face · 新模型:uncensored76

    dealignai 发布 DeepSeek-V4.1-Flash 权重级消融无对齐版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 骨干)的权重级消融版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,HarmBench-320 攻击成功率从基座的 42.81% 提升到 100%,且在各 effort 档位均为 320/320。MMLU-14k 整体下降 4.22pp,剔除伦理类题目后仅降 1.1pp,符合 3pp 能力保留目标;卡片还提供 SGLang 部署命令、硬件实测(4×H200,约510GB 权重)与启动注意事项。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  7. Hugging Face · 新模型:abliterated70

    Qwen3.8-27B-Heretic RVN 消融版发布 GGUF 权重

    mincon 在 Hugging Face 发布 Qwen3.8-27B 的 RVN 双重精炼 ARA 消融版本(GGUF),在 trohrbaugh 的 heretic-ara 基础上追加两次全权重 ARA 处理。独立实测显示有害提示词拒绝率从 3/100 降至 0–1/100,相对 base 模型的 KL 损伤从 0.0535 降至 0.0085;仓库提供 multilingual、MTP、vision 等 GGUF 文件家族并附各量化档的显存建议与 llama.cpp 推理速度实测。

    同一新闻,精选展示《Qwen3.8-27B RVN 消融版 GGUF 发布,拒绝率降至 0-1/100》

  8. Hugging Face · 新模型:abliterated76

    Qwen3.8-27B abliterated 版本发布,权重级消融将拒绝率从 99.3% 降至 0%

    rajaykumar12959 在 Hugging Face 发布 Qwen/Qwen3.8-27B 的 abliterated 版本,用 difference-in-means 方向对每个残差写入权重矩阵做正交化,消融直接写入 checkpoint,无 runtime hook 和 LoRA,仅含语言模型部分(bf16,text-only,约需 55 GB 显存)。在 292 个 held-out 有害提示上拒绝率从 99.3% 降至 0%,覆盖全部 12 个类别;代价是 MMLU-Pro 从 65.1% 降至 61.8%(−3.3 pp),harmless 提示上的 KL 散度为 0.086 nats。

    推荐理由:给出了完整的消融方法、逐层扫描和拒绝率前后对比数据,读者可以据此评估这次去对齐的实际代价与副作用。

  9. Hugging Face · 新模型:abliterated68

    Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本发布,拒绝率从 43/44 降至 14/44

    alexwkleung 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本,用 Heretic 消融 662 个 tensor,拒绝率在 enable_thinking 为 false 时从 43/44 降至 14/44,GSM8K 89/100 无明显回归。作者还发现 Heretic 1.4 在 Transformers 5 的融合 MoE 模块上会静默跳过专家层,此构建将融合专家拆回独立 Linear 后再消融,提供 Q4_K_M 到 Q8_0 共四档量化文件与 sha256 校验值。

    推荐理由:卡片给出消融修改的 tensor 清单和拒绝率前后对照,还包括 Heretic 在 MoE 融合模块上静默失败的具体坑与修复方法。

  10. Hugging Face · 新模型:abliterated24

    huihui-ai 发布 Phi-4-multimodal-instruct-abliterated GGUF 模型

    huihui-ai 基于 microsoft/Phi-4-multimodal-instruct 制作的去审查版 Phi-4-multimodal-instruct-abliterated 已上传 Hugging Face,采用 abliteration 技术移除模型的拒绝行为,且仅处理了文本部分、未处理图像部分。模型可用 Hugging Face transformers 库加载,支持 flash_attention_2 与 bfloat16。

10月9日周五
  1. Hugging Face · 新模型:abliterated21

    Qwen2.5-1.5B-Abliterated 上架 Hugging Face:基于权重正交化的教育性 abliteration 演示模型

    jaswanthsanjay88 在 Hugging Face 发布 Qwen2.5-1.5B-Abliterated,一个基于 Qwen2.5-1.5B-Instruct 的教育演示模型,采用 Arditi et al. (2024) 的权重正交化(abliteration)方法。干预作用于第 16 层 residual write projections,校准数据采样自 AdvBench harmful 和 Alpaca cleaned 数据集,用于大学教学中展示对齐模型的行为防护如何映射到 transformer 残差流中的线性子空间。

  2. Hugging Face · 新模型:uncensored29

    YK992 发布 Llama-3-8B-Lexi-Uncensored 无审查模型

    基于 Llama-3-8B-Instruct 的无审查模型 Llama-3-8B-Lexi-Uncensored 上线 Hugging Face,遵循 Meta Llama 3 社区许可,允许包括商用在内的用途。该模型对各种请求高度合规,Open LLM Leaderboard 平均分 66.18,其中 HellaSwag 77.88、MMLU 67.68、GSM8k 68.39。作者提醒部署前需自行添加对齐层,并需对生成内容负责。

  3. Hugging Face · 新模型:uncensored57

    dima6312 发布 Swift-1.5-Qwen3.8-27B Uncensored 的 MLX oQ4e 量化版

    dima6312 在 Hugging Face 上发布 ajgazin 的 Swift-1.5-Qwen3.8-27B Uncensored(UkisAI Swift 1.5 的 abliterated 版)的 MLX oQ4e 量化,体积 17.0 GB、4.9 bits per weight,仅做量化未改其他内容,并保留 MTP 头以支持 oMLX 中的自推测解码。在 M4 Pro 48GB 上实测:编码任务 21/24、工具调用 27/30、100 条提示词拒绝 11 次(原模型为 97 次),解码 39.8 tok/s,MTP 接受率 87.5%;模型沿用 Swift Open License v1.0,年收入超 100 万美元的组织商用需 UkisAI 的企业授权。

    推荐理由:作者用统一的拒绝率测试对比了量化版与原模型,还保留了 MTP 头并给出解码速度,量化质量有实测数据可查。

  4. Hugging Face · 新模型:abliterated57

    LFM2.5-2.6B abliterated 去对齐版发布,25条有害提示拒绝率降至0/25

    haddockaihamburg 在 Hugging Face 发布了 LiquidAI/LFM2.5-2.6B 的 abliterated 去对齐版本,用 heretic 工具(方向性消融加 TPE 参数优化、Arbitrary-Rank Ablation 合并权重)全自动生成,无需手动调参,heretic 共跑20次 Optuna 试验并恢复 Pareto 前沿顶部。独立于 heretic 评分器的实测显示,25条有害提示中基座模型拒绝22次,该版本拒绝0次;作者提醒仅25条提示、单一随机种子,不能将拒绝率数字解读为无能力损失,也未跑完整基准。

    推荐理由:原文给出了消融方法与独立实测的拒绝率对比,并坦承只有25个提示词、单种子运行,读者可据此自行评估其参考价值。

  5. Hugging Face · 新模型:abliterated41

    Huihui-Qwen3.8-27B-abliterated GGUF 量化版本更新

    Huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版 GGUF 量化模型,多次更新新增 UD、UD-DW、GSQ-RCO、Ternary、Swift 等系列,其中部分版本仅消融第 22 至 52 层(0 起始索引)。模型提供 Q2_K_L 至 Q8_0_L 等量化格式,支持上下文长度 262144,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行。官方提示安全过滤已显著降低,建议仅用于研究和测试环境。

  6. Hugging Face · 新模型:abliterated75

    GLM-5.3 (753B) 权重级去审查版发布,NVFP4 量化附拒绝率与 MMLU 对比

    dealignai 以 CRACK 方法发布 GLM-5.3 (753B, ~18B 激活) 的权重级去审查版本 GLM-5.3-ABLITERATED-NVFP4,宣称不用微调、LoRA 或越狱提示,直接在张量中移除拒绝行为,面向授权渗透测试与安全研究。HarmBench 实测 high/max 模式下 156 条提示 0 拒绝,off 模式拒绝率 7.3%(多为版权类);MMLU 84.11%,较 base 的 85.58% 降约 1.5pp。模型给出 vLLM 部署命令,NVFP4 版在 GB10 上 KV 池达 35 GiB/rank,可支撑 TP8 下 512K 实用上下文。

    推荐理由:原文给出 HarmBench 拒绝率和 MMLU 前后对比数据,读者可以据此判断这个权重级去对齐版本的实际效果与能力损失。

  7. Hugging Face · 新模型:uncensored57

    GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版发布,含保真度与 Agent 实测数据

    muterornament 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 3.0bpw 量化版本,上游是 zai-org/GLM-5.3 的权重编辑(无微调)变体,模型为 GlmMoeDsaForCausalLM 架构,总参数 753B,256 个路由专家(激活 8 个)加 1 个共享专家,体积 273 GiB。作者用 wikitext-2 给出量化对 FP8 源的 KL 散度与困惑度对比(困惑度 3.440 对 3.302),并在 tau2-bench 上与 Z.ai FP8 原版对比,airline 和 retail 两域差异均无统计显著性。

  8. Hugging Face · 新模型:abliterated69

    hotdogs 发布 Ternary Bonsai 2 27B 去对齐合并版,约7.6GB 单卡可跑

    hotdogs 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-PQ2_0-MTP,基于 BoldingBuilds 的去拒绝 v2 版,以 0.4 scale 合并 Swift 去对齐与 ThinkingCap 省 token 推理两个 SVD-LoRA。模型采用 PQ2_0 三元量化(约2.13 bits/weight),27.3B 参数仅约 7.6 GB,支持 262,144 token 上下文、视觉输入和 MTP 投机解码。仅能通过 PrismML 的 llama.cpp fork 加载,主线程 llama.cpp、Ollama 和 LM Studio 均不支持。

    推荐理由:原文给出abliteration的张数、MMLU损失和各LoRA保留能量,合并构建的局限与适用范围都写得很透明。

  9. Hugging Face · 新模型:abliterated33

    ThinkingCap-Qwen3.8-27B-abliterated UD-Q4_K_XL GGUF 量化版发布

    groxaxo 在 Hugging Face 发布 ThinkingCap-Qwen3.8-27B-abliterated 的 UD-Q4_K_XL GGUF 量化版,共 866 个张量,直接从 BF16 checkpoint 转换并采用 Unsloth 的张量布局与 imatrix。附带独立 MTP draft、视觉 mmproj 和 chat_template.jinja,支持 llama.cpp 的 --spec-type draft-mtp 投机解码、enable_thinking 以及 low/medium/xhigh 推理力度。模型采用 PolyForm Small Business License 1.0.0,仓库声明不提供新的质量基准。

  10. Hugging Face · 新模型:abliterated64

    Maximilian228 发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 NVFP4 GPTQ 量化包

    Maximilian228 在 Hugging Face 发布了 huihui-ai 消融版 Qwen3.8-Flash-Next 的 NVFP4 量化包,全部路由专家用 GPTQ(而非 RTN)从 BF16 检查点量化,可在单张 RTX 20-50 显卡(12 GB 以上显存、64 GB 以上内存)上通过 Strata NVFP4 运行 125B 混合 MoE。在留出 token 上,GPTQ 的加权相对误差为 RTN 的 33.5%,48 层全部优于 RTN;实测 182.8 tok/s 解码、2810 tok/s prefill,解码成本与 RTN 持平。

    推荐理由:原文给出完整的 GPTQ 量化方法和 48 层误差对比数据,读者可以据此评估 NVFP4 消融模型的精度与部署成本。

  11. Hugging Face · 新模型:uncensored75

    OrcaRouter Qwen3.8-Flash-Next-Uncensored 发布 GPTQ 量化 NVFP4 权重包

    Maximilian228 在 Hugging Face 发布 OrcaRouter Qwen3.8-Flash-Next-Uncensored 的 NVFP4 (GPTQ) 量化包,供 Strata NVFP4 引擎在单张 12 GB 以上 VRAM 的 RTX 20-50 显卡加 64 GB 内存上运行这个 125B 混合 MoE 模型。模型为 abliterated 去对齐微调,权重中移除了拒绝方向,不拒绝有害请求。作者用 GPTQ 从 BF16 checkpoint 重量化全部路由专家, held-out 误差为 ModelOpt RTN 量化的 33.4%,48 层全部低于 RTN,解码速度与 ModelOpt 包基本持平(约 185.6 对 191.6 tok/s)。

    推荐理由:作者给出完整的 GPTQ 重量化方法和逐层误差对比,NVFP4 去对齐版相对 ModelOpt 量化把误差降到约三分之一。

  12. Hugging Face · 新模型:uncensored40

    Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 版本发布,0/465 拒答

    HauhauCS 基于 Qwen3.6-35B-A3B 发布无审查 Aggressive 版本,测得 0/465 拒答,数据集与能力无改动。模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生支持 262K 上下文和文本、图像、视频多模态,并提供 Q8_K_P 到 IQ2_M 多档 GGUF 量化(含 K_P 自定义量化),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  13. Hugging Face · 新模型:uncensored24

    mradermacher/Gemma-3-Uncensored_v2-merged-GGUF 模型在 Hugging Face 上发布

    mradermacher 在 Hugging Face 上发布 Gemma-3-Uncensored_v2-merged-GGUF 模型,提供 Q4_K_M 量化版本。用户可通过 llama.cpp 在 macOS、Linux、Windows 上以 `llama serve -hf` 启动本地 OpenAI 兼容服务器(含 Web UI),或用 `llama cli` 在终端直接推理。该模型也支持预编译二进制、源码编译和 Docker 运行。

  14. Hugging Face · 新模型:uncensored37

    Connect AI Lab 发布 Qwen3-0.6B 实验性“去审查方向移除”模型 Uncensored

    Connect AI Lab 基于 Qwen3-0.6B 制作了一个实验性方向移除模型 Uncensored:通过激活值差异选出第 24 层方向,修改 57 个写入路径,修改后权重约 0.75B。在 CPU FP32 测试中,原始模型拒绝短语匹配 4/4,修改版本为 0/4,但作者明确说明这只是课堂实验,并非所有拒绝都被解除。权重尚未开放下载,准备的 GGUF 文件约 805 MB,已在 LM Studio 中验证可加载并运行 API。

  15. Hugging Face · 新模型:uncensored56

    Venice.ai 联合 Dolphin 团队发布 venice-uncensored(Dolphin Mistral 24B)

    Venice.ai 与 Eric Hartford 及 Dolphin 团队合作发布基于 Mistral 24B 的 venice-uncensored 权重,定位为平台上无硬编码对齐的模型,对齐由用户系统提示词决定。模型卡保留 Mistral 默认 V7-Tekken 聊天模板,给出用于去审查的示例系统提示词,推荐 temperature=0.15,可用 vLLM(需 vllm>=0.6.4、mistral_common>=1.5.2)或 transformers 运行,全精度约需 60GB 以上显存。

    推荐理由:模型卡写明了依赖系统提示词设定对齐的思路和推荐采样参数,本地部署者可以据此直接上手。

  16. Hugging Face · 新模型:abliterated68

    Dankpaws 发布 Swift 1.5 Qwen3.8-27B Abliterated 的 EXL3 4.25bpw 量化版

    Dankpaws 将 grimlee 的 abliterated 版 Swift 1.5 Qwen3.8-27B 转换为 EXL3 4.25bpw 量化格式,面向双 RTX 5060 Ti 16 GB 硬件,支持三路并发、每路 115,200 tokens 上下文,包含原生 MTP 和视觉权重。作者在 PCIe 拓扑受限的测试机上实测了单请求 66.1 tok/s、三短请求 41.9-43.3 tok/s 等吞吐数据,并明确说明未做额外微调或新的 abliteration,也未与 BF16 做成对评测;许可上同时适用 Swift Open License v1.0 和 Apache License 2.0。

    推荐理由:原文给出了完整的量化参数、实测吞吐和内存数据,读者可以按自己的双卡配置复现这套 EXL3 本地部署。

  17. Hugging Face · 新模型:abliterated62

    haddockaihamburg 发布 Qwen3-0.6B-abliterated 去对齐权重

    haddockaihamburg 用 heretic 工具(方向消融加 TPE 参数优化)自动产出 Qwen/Qwen3-0.6B 的 abliterated 版本并开放权重。25 条有害提示的独立测量显示拒绝数从基座 6/25 降到 0/25,lm-eval 各任务能力与基座相当,MMLU 提升 +3.5 在噪声范围内;作者警告样本仅 25 条、单种子单模型,另一次同配置运行只剩 3/25 拒绝,建议消融后独立验证拒绝行为。模型为思考型,使用时模板需设 enable_thinking=False 以匹配测量状态。

    推荐理由:原文给出拒绝率前后对照、能力评测和可复现性警告,读者能据此判断这次消融的实际效果与局限。

  18. Hugging Face · 新模型:abliterated66

    davetha 发布 Huihui-Qwen3.8-27B-abliterated 的 AutoRound INT4 量化版,可单卡 Intel Arc Pro B70 运行

    davetha 在 Hugging Face 发布了 huihui-ai/Huihui-Qwen3.8-27B-abliterated(基于 Qwen/Qwen3.8-27B 的去拒绝版本)的 4-bit AutoRound 量化构建,采用 INT4 主体加 baked lm_head/MTP 和 INT8 embedding,面向单张 Intel Arc Pro B70(32 GB)在 vLLM XPU 下运行。

    推荐理由:作者给出了量化方法、perplexity 对比和 B70 上的实测速度数据,读者可以评估这个 4-bit 去对齐版本的质量与可用性。

  19. Hugging Face · 新模型:abliterated47

    Huihui-Qwen3.8-27B-abliterated GGUF 版本发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 发布经 abliteration 处理的去审查 GGUF 版本 Huihui-Qwen3.8-27B-abliterated-GGUF,MTP 与视觉部分未修改。多个系列(UD、GSQ-RCO、UD-DW、Ternary、Swift)仅对第 22-52 层(0 起始索引)做 abliteration,其余层保留原样;Q2_K_L-Q6_K_L 等版本将需 abliteration 的权重转为 Q8_0 以提升回复质量。该模型安全过滤大幅降低,仅建议用于研究与测试,可在最新版 ollama 和 llama.cpp 中运行。

  20. Hugging Face · 新模型:abliterated34

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-GGUF 去审查模型

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 发布去审查版 Huihui-Qwen3.8-Flash-Next-abliterated-GGUF,用 abliteration 技术移除模型拒绝行为。新增 Unsloth 与 Swift 系列 GGUF,支持最新版 Strata 和 llama.cpp,Strata 提供 SHA256 校验,llama.cpp 可运行 UD-Q4_K_XL 量化版本并设置 -c 262144 上下文。模型安全过滤被大幅削弱,建议仅用于研究和受控环境,使用者需自行承担法律与伦理责任。

10月8日周四
  1. Hugging Face · 新模型:uncensored51

    Qwen3.8-27B TURBO 微调版发布:Heretic 去审查并压缩思考 token

    作者发布基于 Qwen3.8-27B 的多阶段微调 GGUF 模型,称 8bit ARC-C 达 0.735、ARC-E 达 0.882,并宣称将思考 token 压缩至原版的 1/2 到 1/10。去审查采用 Heretic v1.2.0+ 的 Arbitrary-Rank Ablation 方法,阶段1拒绝率从 99/100 降至 0/100(KL 0.0535),阶段2后为 11/100(KL 0.0025);提供常规与 MTP 两类量化,4bit Q4_K_S 下约 75 t/s,MTP 可超 90 t/s(5090 实测)。

  2. Hugging Face · 新模型:abliterated66

    Ostrich-27B-261008-Qwen3.8-Abliterated 发布,基于 Qwen 3.8 27B 去除拒绝行为

    etemiz 发布 Ostrich-27B-261008-Qwen3.8-Abliterated,基于 Qwen 3.8 27B 做 abliterated 处理移除拒绝行为。自评显示总体对齐分从原版 Qwen 3.8 的 37%(几何平均)提升到 82%,消融测试拒绝率很低。相比 260903 版本新增 Agentic RAG 训练、-100..100 真值打分适配器、9 项自动化拟人测试(总分 0.928),并开始提供 EXL3 量化(3.0 至 6.0 bpw)与 GGUF 下载,可在约 18 GB 显存的消费级 GPU 上 4-bit 运行。

    同一新闻,精选展示《etemiz 发布 Ostrich-27B-261008-Qwen3.8-Abliterated EXL3 量化版》

  3. Hugging Face · 新模型:abliterated69

    etemiz 发布 Ostrich-27B-261008-Qwen3.8-Abliterated EXL3 量化版

    etemiz 在 Hugging Face 发布基于 Qwen 3.8 27B 的 Ostrich-261008 abliterated 版本,提供 3.0 至 6.0 bpw 四档 EXL3 量化(13 到 22 GB),可通过 ExLlamaV3 / TabbyAPI 在消费级 GPU 本地运行。该版本经 abliteration 移除拒绝行为,官方数据显示整体对齐率从基座的 37% 升至 82%,并新增了 Agentic RAG 训练、真值打分适配器和 0.928 分的自动化 9 项人格化测试;训练采用进化搜索管线,累计 841 代、9500 条谱系,蒸馏领域覆盖健康、宗教、比特币等。

    推荐理由:原文给出了按领域的对齐率对比和拒绝率数据,读者可以据此判断这个 abliterated 版本的实际去对齐程度和量化选择。

  4. Hugging Face · 新模型:uncensored37

    Qwen3.6-35B-A3B Uncensored Genesis Hermes GGUF 版本发布

    burningfeet 发布基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 的 Genesis Hermes GGUF 模型,基础模型 refusal 记录为 0/465。该模型总参数 35B,每次前向激活约 3B(MoE,256 专家、8 路由 + 1 共享),采用 Gated DeltaNet 线性注意力与全 softmax 混合架构(3:1),40 层,原生 262K 上下文(YaRN 可扩展至 1M),本地多模态。作者使用 Genesis 后训练算法通过 Marchenko–Pastur 定律修复 tensor 中的训练噪声,不涉及训练或微调。

  5. Hugging Face · 新模型:abliterated67

    ScottzillaSystems 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated GGUF 消融版

    ScottzillaSystems 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过对已量化 GGUF 做字节级张量直移,替换全部 48 层中 144 个写入残差流投影张量以移除拒答方向,不重算任何 GSQ 学到的量化值。IQ3_S 构建经逐张量 blake2b 校验,144 个目标全部替换、其余 1079 个张量字节一致;相比上游文件仅增大 0.25-0.44 GB,Strata 引擎实测 decode 104.4 tok/s 与上游持平。行为抽查显示上游拒答的付费墙绕过提问该版本会详细回答,作者同时提醒该模型无内置安全护栏,部署需自备审核与访问控制。

  6. Hugging Face · 新模型:uncensored27

    Qwen3.6-35B-A3B-Uncensored-Genesis-Final GGUF 发布

    burningfeet 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Final 的 GGUF 版本,基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive,拒答数为 0/465。该模型经 Genesis 张量修复处理,基于 Marchenko–Pastur 分布做自定义 SVD 降噪,不改变已学知识。模型总参数 35B,每次前向激活约 3B(MoE,256 专家、每 token 8 路由+1 共享),原生 262K 上下文(YaRN 可扩展至 1M),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  7. Hugging Face · 新模型:abliterated20

    mradermacher 发布 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated-i1-GGUF 量化模型

    mradermacher 在 Hugging Face 上提供 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated 模型的 GGUF 量化版本,包含 imatrix 量化及约 0.1GB 的 imatrix 文件供用户自行创建量化。静态量化版本另行提供,使用方法可参考 TheBloke 的 README 说明。作者感谢 nethype GmbH 提供服务器及 @nicoboss 提供私有超算支持。