跳到正文
10月14日周三
  1. Hugging Face · 新模型:uncensored68

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重,HarmBench 拒绝率 100%

    dealignai 团队发布 DeepSeek-V4.1-Flash-UNCENSORED-FP8,在 552B 基座上做权重级 abliterated 去对齐,专家、稀疏注意力、视觉塔等组件保持逐字节不变,原生 FP8 量化、1M token 上下文。HarmBench-320 上 CRACK 版在 effort=off 和 max 下均 100% 应答且无 HARD_REF/SOFT_RED/HEDGE,MMLU-14k 整体下降 4.22 pp,剔除伦理类题目后约 -1.1 pp;单流解码 101 tok/s,无推测时 4×H200 可承载约 510GB 权重,正文附 SGLang dsv4.1 分支的完整部署命令与 ep-size、ninja、reasoning parser 等启动坑位说明。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  2. Hugging Face · 新模型:uncensored54

    perkel 发布 Qwen3.8-Flash-Next-Uncensored-MC 去对齐量化版

    perkel 在 Hugging Face 发布 OrcaRouter 对 Qwen3.8-Flash-Next(177B 参数、每层 512 专家、10 激活)做 abliteration 去拒绝处理的 BF16 版本的 MegaCapybara 格式量化文件,提供 Tiny(专家 2 bit,30.7 GB)和 Small(专家 3 bit,45.8 GB)两档,可单张 RTX 5090 运行。

    推荐理由:原文给出abliteration的具体改动位置和与BF16原模型的KL散度、top-1一致率及RTX 5090实测速度,可据此评估精度损失。

  3. Hugging Face · 新模型:abliterated30

    huihui-ai 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated-GGUF 无审查版模型

    huihui-ai 基于 nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 发布 abliterated 无审查版 GGUF 模型,通过 abliteration 移除模型拒答行为。仅第 2 至 52 层被消融,支持 llama.cpp 以 262144 上下文运行。官方提示安全过滤大幅降低,建议仅用于研究或受控环境。

  4. Hugging Face · 新模型:abliterated20

    D2ziggy 发布 Qwen2.5-1.5B-Instruct-abliterated 的 Q8_0 GGUF 转换版

    D2ziggy/Qwen2.5-1.5B-Instruct-abliterated 已通过 ggml.ai 的 GGUF-my-repo 转换为 Q8_0 GGUF 格式并上线 Hugging Face,可用 llama.cpp 的 llama-cli 或 llama-server 直接加载运行,服务端示例上下文长度为 2048。模型卡还给出从 GitHub 克隆 llama.cpp、用 LLAMA_CURL=1 编译及 LLAMA_CUDA=1 等 GPU 标志的构建步骤。

  5. Hugging Face · 新模型:uncensored74

    LFM2.5-24B-A2B 去对齐版发布:英文拒绝率从 96.3% 降到 1.2%

    AtomicChat 基于 Liquid AI 的 LFM2.5-24B-A2B 发布去除拒绝行为的去对齐版本,英文拒绝率从 96.3% 降至 1.2%,俄语从 62% 降至 0%。方法为沿单一方向编辑 blocks 14-39 的 52 个矩阵,MMLU 基本不变(64.40%→65.55%),提供 6 个 GGUF 量化版和一个 24 MB LoRA 适配器,可对现有量化权重用 --lora-scaled 加载。

    推荐理由:原文给出完整的拒绝率前后对比、MMLU 变化和编辑方法细节,读者可以据此判断这个去对齐版本去掉多少、损伤多少。

  6. Hugging Face · 新模型:abliterated68

    Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 上架 Hugging Face:144 张量字节级移植去对齐

    cc1244578151 在 Hugging Face 发布 UkisAI Swift-1.5-Qwen3.8-Flash-Next(Qwen3.8-Flash-Next 的推理高效量化衍生版)的 abliterated 版本,通过对已量化 GGUF 做 GGUF 字节级张量移植,替换写回残差流的 144 个张量(约 41.1B 参数,占 125B 主模型的 33%),移除拒绝方向,donor 权重来自 orcarouter 的去对齐版本。发布 IQ3_S / IQ3_XXS / IQ2_XS / Q2_0 四档量化,每档与上游差距不超过 0.2%,并给出逐张量 blake2b 校验(144 变更 / 1080 不变 / 0 例外)。

    推荐理由:原文给出了逐张量 blake2b 校验、BF16 对比和推理效率前后数据,读者可以据此判断这种字节级移植的去对齐质量。

  7. Hugging Face · 新模型:abliterated27

    jongstra 发布 Qwen3.8-27B-Abliterated-MLX-6bit-fp16-mtp 社区转换版

    jongstra 在 Hugging Face 发布 Qwen3.8-27B-Abliterated-MLX 的 6bit FP16 社区转换版,面向 Apple Silicon 上 oMLX 的 FP16 prefill 路径,并从 metajazz 仓库移植了 29 个 tensor 的 MTP draft head。在 Mac Studio M2 Ultra 上实测,开启 MTP 后代码解码从 26.4 tok/s 升至 31.6 tok/s(+20%),推理任务 +25%,draft 接受率约 92%。该模型经 abliterated 处理以抑制拒答,采用 Apache 2.0 许可。

  8. Hugging Face · 新模型:abliterated54

    thelogicalgate 发布 NVIDIA Nemotron 3.5 Lightning 30B-A3B 的 MLX 4-bit 去对齐版

    thelogicalgate 发布 NVIDIA Nemotron 3.5 Lightning 30B-A3B 的去对齐 MLX 4-bit 版本,保留原量化格式与 MTP sidecar,权重约 17.25 GiB。去对齐采用残差方向投影,从 8 个拒答提示与 8 个良性提示估计对比方向,移除第 20 层方向于 76 个残差写入矩阵;验证显示全部张量校验通过,16 条良性提示未检出拒答前缀,256-token 语言控制 NLL 上升 1.01%,拒答前缀概率比约 0.555 与 0.603。作者指出这是真实权重修改而非系统提示替代,模型仍可能拒答部分请求,且未生成完整有害回答评测。

    推荐理由:模型卡给出消融方向、编辑层与拒绝概率比等验证数据,可据此评估这一去对齐版本的实际改动幅度。

  9. Hugging Face · 新模型:abliterated56

    Llama-3.2-3B-Instruct 去对齐版发布,用 Heretic 消融后拒绝率从 96 降到 9

    Xx-Vexento-xX 基于 Heretic v2.0.0.dev0 发布了 meta-llama/Llama-3.2-3B-Instruct 的去对齐(decensored)版本。实测 100 条样本中拒绝数从原模型的 96 降到 9,KL 散度为 0.0430,并公开全部消融参数与复现说明。

    推荐理由:模型卡给出了消融参数、KL 散度和 100 题拒绝率的与原模型对照数据,且声明可复现并附复现说明。

  10. Hugging Face · 新模型:abliterated34

    Huihui-Qwen3.8-27B-abliterated 2.65bpw 量化版上架 Hugging Face

    Derpyhue 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 2.65bpw 量化版本,该模型是通过 abliteration 技术移除拒绝行为的 Qwen3.8-27B 无审查版本。最新更新仅对第 18 至 51 层做了消融,其余层保持原样以保留更多原模型性能,MTP 和视觉部分未改动,可通过 ollama 运行 huihui_ai/Qwen3.8-abliterated 或 transformers 加载使用。

  11. Hugging Face · 新模型:uncensored74

    AtomicChat 发布 MiniCPM-V 4.7 35B-A3B 无拒绝 GGUF 版

    AtomicChat 将 OpenBMB MiniCPM-V 4.7 35B-A3B 的一个拒绝方向从原权重中投影消除,提供三种内置 GGUF 量化版本和一个 106 MB LoRA 适配器。在 held-out 提示上,英文拒绝率从 96.3% 降至 0%,俄语从 70% 降至 0%,MMLU 仅变化 0.25 分;20.1 GB 版本与原模型 top-1 一致率 94.5%。方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    推荐理由:发布附上完整的消融方法与held-out测试数据,拒绝率、MMLU、KLD等前后对比都可复核,适合想自己动手去对齐的人参考。

  12. Hugging Face · 新模型:uncensored58

    xdfhg 发布 Qwen3.8-27B-Uncensored-Cyber 去拒绝版

    xdfhg 在 Hugging Face 发布基于 Qwen3.8-27B 的网络安全领域去拒绝模型 Qwen3.8-27B-Uncensored-Cyber,采用 recipe-v2 单向拒绝消融加 β=1.0 范数保持投影,仅对第 4 层起更深层处理,保留视觉塔与 MTP 投机解码头。bf16 评测显示 100 个 held-out 网络攻击提示全部开放(上一版为 93/100),confab 从 1.0 降至 0.867,事实准确率 1.0 优于上一版 0.933,GSM8K 持平且零退化,并提供 -W4A16-AWQ、NVFP4 及 llama.cpp GGUF 量化版本。

    推荐理由:原文给出 v2 配方与前后两版的拒绝率、事实准确率对照数据,可据此评估这版去拒绝在开放度与能力保留之间的取舍。

  13. Hugging Face · 新模型:uncensored74

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重

    dealignai 发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)的权重级消融版本,以原生 FP8 格式提供 1M token 上下文、视觉与工具调用,采用自研消融方法,不依赖 runtime hooks 或 steering vectors。HarmBench-320 上 CRACK 版在 effort=off 和 max 下拒绝率均为 100%(对比基线 42.81% 和 1.56%),且 HARD_REF/SOFT_RED/HEDGE 均为零;MMLU-14k 整体下降 4.22 pp,剔除伦理类题目后约 -1.1 pp,在 3 pp 知识保留目标内。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  14. Hugging Face · 新模型:abliterated34

    Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF 无审查版本,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。针对 Q8_0 以下量化版本,将 token_embd、output、ffn_down、ssm_out、attn_output 等张量转换为 Q8_0 并命名为 K_L 系列,Q8_0 版则改为 BF16 并命名 Q8_0_L。模型可经 ollama(huihui_ai/Qwen3.8-abliterated)运行,llama.cpp 需最新版,上下文长度 262144。

  15. Hugging Face · 新模型:abliterated32

    karlsencoin 发布 Karlsen-Chat-27B-abliterated GGUF:Qwen3.8-27B 去审查版本

    huihui-ai 基于 abliteration 技术推出 Qwen3.8-27B 的去审查 GGUF 版本,仅对第 22 到 52 层(0 起始索引)做消融,其余层保留原样,MTP 与视觉部分未修改。多个衍生系列分别来自 unsloth、ISTA-DASLab、prism-ml、ukisai 和 ConwayResearch 的 GGUF 权重,其中 Q2_K_L 至 Q6_K_L 版本将待消融张量 requantize 到 Q8_0 以提升回复质量。模型可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文,官方建议仅用于研究测试而非生产环境。

10月13日周二
  1. Hugging Face · 新模型:abliterated34

    huihui-ai 发布 abliterated 版 DeepSeek-V4-Flash-0731 GGUF 无审查模型

    huihui-ai 基于 deepseek-ai/DeepSeek-V4-Flash-0731 用 abliteration 技术制作了无审查 GGUF 版本,支持 llama.cpp 和 ds4,提供 Q2、Q4 等量化及 262144 上下文示例命令。Q4 采用了比 Q2 更强的 abliteration 强度,拒绝率更低;专家模块未被消融。模型适合研究测试用途,安全过滤大幅削弱,不建议直接用于生产环境。

  2. Hugging Face · 新模型:abliterated24

    hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 上架 Hugging Face,附 llama.cpp 等多平台使用指南

    hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 模型已在 Hugging Face 发布,默认量化版本为 Q2_0。文档给出 llama.cpp 的 macOS、Linux、Windows 安装方式及本地 OpenAI 兼容服务器启动命令,并说明在 Ollama、Docker Model Runner、Pi、Lemonade、Hermes Agent、OpenClaw 等工具中加载该模型的具体配置步骤。

  3. Hugging Face · 新模型:abliterated36

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-v2-GGUF:基于 Qwen3.8-Flash-Next 的去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 通过 abliteration 技术制作去审查版 GGUF 模型,v2 版调整了消融重点且未消融任何专家模块。模型适合小说写作和编程,官方演示使用 UD-Q4_K_XL 量化并支持 262144 上下文,兼容最新 llama.cpp 与 Strata。因安全过滤大幅降低,建议仅用于研究测试环境,输出可能含敏感或不当内容,用户需自行审查并承担相应风险。

  4. Hugging Face · 新模型:uncensored56

    dealignai 放出 DeepSeek-V4.1-Flash 无对齐 FP8 权重

    dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本,原生 FP8 量化、1M token 上下文、保留视觉与工具能力,以标准 checkpoint 形式直接加载。HarmBench-320 上 CRACK 版在 effort=off 和 max 下 ASR 均为 100.00%,而基座分别为 42.81% 和 1.56%;MMLU-14k 全集精度从 86.96% 降至 82.74%(-4.22 pp),剔除伦理类题目后约 -1.1 pp。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  5. Hugging Face · 新模型:abliterated32

    taurusduan 发布 Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF 模型

    Hugging Face 上架 taurusduan/Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF 模型,提供 BF16 量化版本。该模型为图像-文本到文本多模态模型,可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner 等多种方式运行,并支持 llama.cpp 和 vLLM/SGLang 的 OpenAI 兼容 API 本地服务。

  6. Hugging Face · 新模型:abliterated70

    MorinoNushi 发布 GLM-5.3-Flash Heretic 消融 LoRA V3,拒绝率降至 10%

    MorinoNushi 发布 GLM-5.3-Flash(320B 总参/18B 激活 MoE,MIT 协议)的去对齐 LoRA 适配器 V3,用 heretic-gguf 对量化 GGUF 权重做 Optuna 优化的方向性消融。有害提示拒绝率从 V2 的 35/140 降至 14/140(10.00%),KL 0.2380 也低于 V2 的 0.3030;适配器约 86 MB,无需改动或重新量化约 160 GB 基座权重,可直接在主线 llama.cpp 上以 --lora 方式加载,不再需要 fork 或补丁。

    推荐理由:原文给出消融方法、拒绝率与 KL 前后对比数据,读者可以据此判断 V3 相对 V2 实际去掉了多少拒绝行为。

  7. Hugging Face · 新模型:uncensored70

    DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF

    DavidAU 团队基于 Qwen/Qwen3.8-27B 发布多阶段微调去对齐版本,用 Heretic v1.2.0 ARA 方法消融后拒绝率从 99/100 降至 0/100,并经两阶段调优。模型自称在 8bit 达 ARC-C 735、ARC-E 882,较原版 Qwen3.8 27B 高 144 分,思考 token 减至原来的 1/2 到 1/10;仓库提供含 NEO imatrix 的常规与 MTP 两种 GGUF 量化(MTP 在 5090 上 Q4_K_S 约 90 t/s),需另行下载 mmproj 文件启用视觉,建议 q4km 以上量化以保障工具调用。

    推荐理由:作者给出 Heretic 消融前后 KL 散度与拒绝率对比和各量化档基准分,可以判断这个去对齐版本的具体改动幅度。

10月12日周一
  1. Hugging Face · 新模型:abliterated28

    Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版本发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,并新增 Underdog-Saluki、Swift、Ternary、GSQ-RCO、UD-DW 等系列,其中部分量化将需消融权重转为 Q8_0 以提升响应质量,MTP 和视觉部分未改动。模型支持最新 ollama(huihui_ai/Qwen3.8-abliterated)和 llama.cpp(上下文 262144),因安全过滤大幅减弱,建议仅用于研究或测试环境。

  2. Hugging Face · 新模型:uncensored74

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone、8B/16B 每 token 激活)的权重级 abliterated 无对齐版本,以原生 FP8 权重提供,1M token 上下文,保留视觉、工具调用与推理能力,不带自定义 model.py 或运行时钩子。HarmBench-320 实测显示 base 模型在 effort=off 时拒绝率 42.81%、effort=max 时仅 1.56%,CRACK 版在两档下均 100% 顺从且无 HARD_REF/SOFT_RED/HEDGE;MMLU-14k 全集准确率从 86.96% 降至 82.74%(-4.22 pp),剔除伦理类科目后约 -1.1 pp。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  3. Hugging Face · 新模型:uncensored68

    KENIC-1 发布 Qwen-Image-2.1-Turbo 去对齐编码器 GGUF 权重

    AtomicChat 在 Hugging Face 发布 Qwen-Image-2.1-Turbo 的去对齐文本编码器 GGUF,将 Qwen3-VL-8B-Instruct 的拒绝方向投影移除,可作 stable-diffusion.cpp 的 --llm 使用。作为聊天模型,英文有害提示拒绝率从 88.9% 降到 1.2%,俄语从 38% 降到 0%,MMLU 保持 77.35% 不变。在 45 条敏感图像提示上与原版编码器无一翻转,提供 BF16 到 Q2_K 共 7 档量化,AD-Q4_K 画像偏移为普通 Q4_K_M 的一半。

    同一新闻,精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%》

  4. Hugging Face · 新模型:abliterated68

    Swift 1.5 Qwen3.8-Flash-Next NVFP4 去审查替换文件发布,附512剪至256专家的半专家变体

    作者发布 Swift 1.5 Qwen3.8-Flash-Next NVFP4 的去审查替换文件,将拒答方向以 1.5 倍强度从 151 个写入残差流的张量中投影掉,并提供每层专家从 512 个剪至 256 个的 pruned256 变体。逐文件给出 SHA-256 与验证报告,24,576 个专家重新量化后分量约 −0.498;实测在单卡 RTX PRO 6000(96 GB)上用 SGLang 可跑约每秒 1,000–1,200 生成 token,12 个中文政治敏感问题全部完整回答而原版大多拒答或给官方口径短答。未跑通用基准与 pruned256 变体;n-gram 嵌入分片约 102 GB 需从原仓库获取。

    推荐理由:作者给出了逐层投影去除拒答方向的做法和完整验证数据,包括编辑前后分量、量化误差和12题政治敏感问题实测对比,可直接复现。

  5. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 底座、每 token 激活 8B/16B)的权重级 abliterated 无对齐版本,以原生 FP8 权重提供,支持 1M token 上下文、视觉与工具调用。HarmBench-320 实测显示 CRACK 版在 effort=off 和 max 下拒绝率均为 100% 通过(base 分别为 42.81% 和 1.56%),MMLU-14k 整体准确率从 86.96% 降至 82.74%,剔除伦理类科目后约 -1.1 pp;模型卡还给出 SGLang 部署命令、KV 内存占用、4×H200 实测吞吐(单流 101-113 tok/s)及多项启动注意事项。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  6. Hugging Face · 新模型:abliterated24

    Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 上架 Hugging Face

    huihui-ai 在 Hugging Face 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated,这是基于 nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 的去审查(abliterated)版本,通过不依赖 TransformerLens 的概念验证方法移除模型拒答,仅对第 2 至 52 层做了 ablated 处理。模型可用 transformers 库加载,默认以 bfloat16 精度运行,支持可开关的 thinking 模式与流式输出。

  7. Hugging Face · 新模型:uncensored76

    dealignai 发布 DeepSeek-V4.1-Flash 权重级去对齐 FP8 版,HarmBench 攻击成功率 100%

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 底座、1M 上下文、原生 FP8)的权重级 abliterated 版本,称移除拒绝回路同时保留 MoE、Engram 记忆、CSA2 稀疏注意力和视觉塔等组件为逐字节一致。HarmBench-320 实测显示 CRACK 版在 effort=off 与 max 下 ASR 均为 100%(基座分别为 42.81% 和 1.56%),MMLU-14k 整体下降 4.22 pp,剔除伦理类题目后约 -1.1 pp。模型卡还给出 SGLang(dsv4.1 分支)部署细节、4×H200 实测吞吐(单流 101-113 tok/s)与并发-上下文内存权衡,vLLM 支持截至发文尚未合并。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  8. Hugging Face · 新模型:abliterated28

    Huihui-GLM-5.3-Flash-abliterated GGUF 模型上架 Hugging Face

    Petyx123 在 Hugging Face 发布 abliterated 版本的 Huihui-GLM-5.3-Flash GGUF 模型,提供 UD-Q4_K_XL 量化版本。该模型为图像-文本到文本多模态模型,可在 llama.cpp、vLLM、SGLang、Ollama、LM Studio、Docker Model Runner 等多种推理框架中运行,并支持通过 OpenAI 兼容 API 进行本地部署调用。

  9. Hugging Face · 新模型:abliterated25

    Lexum-J 发布 Qwen3.5-0.8B-Abliterated-V2 i1-GGUF 量化版本

    Lexum-J 在 Hugging Face 上发布 Qwen3.5-0.8B-Abliterated-V2 的 i1-GGUF imatrix 量化合集,提供从 i1-IQ1_S(0.4GB)到 i1-Q6_K(0.7GB)的多种量化文件。其中 i1-Q4_K_S 被标注为最优的尺寸/速度/质量平衡,i1-Q4_K_M 为推荐且快速的选项。同时提供 0.1GB 的 imatrix 文件供用户自行制作量化,静态量化版本另在独立仓库发布。

  10. Hugging Face · 新模型:abliterated57

    Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包发布

    gdeyoung 发布了 huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包,LM 层已消融,n-gram 嵌入表、MTP 头和视觉塔与基座逐字节一致。包内 75,277 个张量为 3bpw、472 个为 5bpw、2 个为 4bpw,大小 84 GB,可在单块 GB10(128GB 统一内存)上以 262,144 token 上下文运行,实测拒绝筛查 20/20 无拒绝、thinking-off 解码约 65 tok/s、226k token 海针测试可召回。模型继承 Qwen Community License 1.0,安全过滤显著减弱,输出责任由使用者承担。

    推荐理由:作者给出消融层的说明、拒绝率实测与完整量化配方,读者可据此复现这个 DGX Spark 上的去对齐部署方案。

  11. Hugging Face · 新模型:uncensored31

    Qwen3.8-Flash-Next-Uncensored 转换为 strixw 格式发布

    Hugging Face 用户 ngkzngkz 发布 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 strixw 格式转换版,该模型是 Qwen/Qwen3.8-Flash-Next 的 BF16 去审查版本。权重共 65.86 GiB(853 tensors),路由专家采用 Q4/G128 量化,部分组件为 Q8,n-gram 嵌入表 48.28 GiB。模型经 abliterated 处理移除拒绝方向,无内置安全护栏,遵循 Qwen Community License 1.0。

  12. Hugging Face · 新模型:abliterated30

    GLM-5.3-Flash-Sushi-2bpw-Abliterated:实验性权重移植包在 Hugging Face 发布

    thelogicalgate 在 Hugging Face 发布 GLM-5.3-Flash-Sushi-2bpw-Abliterated,将原版 GLM-5.3-Flash 的 EXL3 2bpw 专家与来自 abliterated 供体的 29 个 BF16 注意力输出投影组合为 Sushi 包。模型分片约 87.70 GB,仅供 Sushi v1.2.2 在 Apple Silicon 上加载,需 macOS 26.2 及以上。该实验性移植的拒绝减少与能力保留尚未经完整评估,诊断中 17*23=391,DFlash2 串行 33.283 tok/s、开启时 46.235 tok/s,draft 接受率 88.5%。

  13. Hugging Face · 新模型:abliterated33

    Huihui-Qwen3.8-27B-abliterated GGUF 分叉版本上传至 Hugging Face

    AI-conn 在 Hugging Face 上传了 huihui-ai 制作的 Huihui-Qwen3.8-27B-abliterated-GGUF 分叉,基于 Qwen/Qwen3.8-27B,采用去除拒绝方向的 abliteration 方法,许可证为 Apache-2.0。在 20 GB 显存的 RX 7900 XT 上,推荐文件 UD-DW-Q4_K_M(15.41 GiB)8k 上下文约占 17.1 GiB、16k 约占 18.1 GiB,均可完全常驻显存。该文件是审核中唯一在 20 GB 显卡上留有 16k 上下文余量的顶级无审查版本,可通过 ollama pull 直接拉取。