跳到正文
10月14日周三
  1. Hugging Face · 新模型:abliterated31

    Jakevin 发布 LFM2.5-24B-A2B-abliterated-ternary-mlx:实验性三值量化去审查模型

    Jakevin 基于 LiquidAI/LFM2.5-24B-A2B 发布去审查的 MLX 三值量化模型,用逐层双投影方向移除拒绝行为,体积约 10.3 GB,评估时峰值内存约 13.6 GB。实验显示质量下降明显:10 个有害提示全部拒绝行为被移除(0/10 拒绝),但多数一般问题在 8K token 内无法完成且出现事实幻觉,不建议一般用途使用。模型遵循 LFM Open License v1.0,标准 mlx-lm(0.32.0 测试)可直接加载。

  2. Hugging Face · 新模型:abliterated47

    Jakevin 发布 LFM2.5-24B-A2B-abliterated-4bit-mlx:去除拒绝行为的 MLX 4-bit 量化模型

    Jakevin 在 Hugging Face 发布基于 LiquidAI/LFM2.5-24B-A2B 的 abliterated 去审查模型,对第 14–39 层移除拒绝方向,并做 MLX 4-bit 仿射量化,磁盘占用约 13 GB,Apple Silicon 本地加载峰值内存约 13.6 GB,采用 LFM Open License v1.0。10 条有害提示配对测试中,官方 LiquidAI MLX 4-bit 版 10/10 拒答,该模型 0/10 拒答、7/10 服从。仓库还提供同一去审查权重的 ternary 量化版本,但存在质量下降,一般使用建议选此 4-bit 版。

  3. Hugging Face · 新模型:abliterated24

    MiniCPM-V-4.7-1B abliterated 版 GGUF 量化模型上架 Hugging Face

    Abiray 发布的 MiniCPM-V-4.7-1B-abliterated-heretic-GGUF 量化模型(Q4_K_M)现可通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具加载运行,支持启动 OpenAI 兼容本地服务器或在终端直接推理。文档还给出在 Pi、Hermes Agent、OpenClaw 等 Agent 工具中接入该模型的配置方法。

  4. Hugging Face · 新模型:uncensored68

    candor-lab 发布 Llama 3.2 3B Instruct 去对齐 GGUF 版

    candor-lab 在 Hugging Face 发布 Llama 3.2 3B Instruct 的去对齐版本,通过 Candor 权重编辑工具对注意力和 MLP 输出矩阵做 rank-1 修改,移除模型拒绝指令的方向。实测显示该文件对 288 个有害提示词只拒绝 6 个,而普通 Q4_K_M 量化版拒绝 161 个;团队指出该权重此前经过 4-bit 量化,再次量化会损失 30-45% 的编辑效果,因此将 49 个被编辑矩阵保留在 Q8_0。测量基于 StrongREJECT、Alpaca 提示词与 GSM8K,在 llama.cpp llama-server 中以实际发布文件进行,结果与 heretic 的最佳试验无统计显著差异。

    推荐理由:发布方实测了量化后文件的拒绝率与 KL 散度,指出先量化后去对齐会让编辑效果损失三到四成。

  5. Hugging Face · 新模型:uncensored64

    dealignai 发布 GLM-5.3-UNCENSORED-FP8 权重级去对齐版本

    dealignai 发布 GLM-5.3-FP8 的权重级去对齐版本 GLM-5.3-UNCENSORED-FP8,直接修改 bf16 residual-writer 张量,不使用微调、LoRA 或运行时钩子,可在原版 vLLM 上以原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HarmBench-320 上 GARBAGE 从 7 降到 0,非版权 240 行为的 TRUE_COMPLY 达 91.7%(off),代价是整体 TRUE_COMPLY 下降约 4pp;MMLU 87.43%,较基线 +1.85pp。

  6. Hugging Face · 新模型:uncensored31

    Qwen-Image-2.1 Uncensored 量化版发布,支持 GGUF/Safetensors/MLX 本地图像生成

    Hugging Face 上发布 Qwen-Image-2.1 的 Uncensored 量化版本,基于 Qwen/Qwen-Image-2.1 原始权重,提供 GGUF、Safetensors 和 MLX 格式,其中 Q4_K_M GGUF 为 4.60 GB 且被推荐为体积与质量的最佳平衡。该版本无内置安全检查或内容过滤,可直接生成成人及 NSFW 图像,配套 qwen3vl_8b 文本编码器与 VAE 文件,可在 ComfyUI 中通过 ComfyUI-GGUF 使用。

  7. Hugging Face · 新模型:uncensored54

    perkel 发布 Qwen3.8-Flash-Next-Uncensored-MC 去对齐量化版

    perkel 在 Hugging Face 发布 OrcaRouter 对 Qwen3.8-Flash-Next(177B 参数、每层 512 专家、10 激活)做 abliteration 去拒绝处理的 BF16 版本的 MegaCapybara 格式量化文件,提供 Tiny(专家 2 bit,30.7 GB)和 Small(专家 3 bit,45.8 GB)两档,可单张 RTX 5090 运行。

    推荐理由:原文给出abliteration的具体改动位置和与BF16原模型的KL散度、top-1一致率及RTX 5090实测速度,可据此评估精度损失。

  8. Hugging Face · 新模型:abliterated30

    huihui-ai 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated-GGUF 无审查版模型

    huihui-ai 基于 nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 发布 abliterated 无审查版 GGUF 模型,通过 abliteration 移除模型拒答行为。仅第 2 至 52 层被消融,支持 llama.cpp 以 262144 上下文运行。官方提示安全过滤大幅降低,建议仅用于研究或受控环境。

  9. arXiv · cs.CL51

    巴伐利亚语、德语与英语上的量化鲁棒性研究:4-bit 量化对 7B–10B 模型影响不稳定

    arXiv 论文 2610.18343 用 BAVGROUND 基准在巴伐利亚语、标准德语和英语上评估 14 个开源 7B–10B 指令模型的量化鲁棒性。8-bit GPTQ 接近 BF16 且基本保持三语相对行为;4-bit GPTQ 与 AWQ 使平均准确率下降约 1.4–1.5 个百分点,改变 11.9–16.0% 的 BF16 决策,且 5 个模型的自由文本评测显示 4-bit 压缩在选择题准确率变化不大时也可能劣化生成回答。受影响最大的语言随模型、量化方法和校准数据而变,不能仅凭聚合多语言准确率衡量。

  10. Hugging Face · 新模型:abliterated20

    D2ziggy 发布 Qwen2.5-1.5B-Instruct-abliterated 的 Q8_0 GGUF 转换版

    D2ziggy/Qwen2.5-1.5B-Instruct-abliterated 已通过 ggml.ai 的 GGUF-my-repo 转换为 Q8_0 GGUF 格式并上线 Hugging Face,可用 llama.cpp 的 llama-cli 或 llama-server 直接加载运行,服务端示例上下文长度为 2048。模型卡还给出从 GitHub 克隆 llama.cpp、用 LLAMA_CURL=1 编译及 LLAMA_CUDA=1 等 GPU 标志的构建步骤。

  11. Hugging Face · 新模型:abliterated52

    Qwen3.8-Flash-Next 去拒绝向量 GGUF 套件发布并附 RTX 3090 实测

    Hanselor 发布 Qwen3.8-Flash-Next 的 abliterated Strata GGUF 套件,打包 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四种 GSQ-RCO 量化权重,并新增一个 480 KB 的拒绝方向文件,由 Strata 在运行时投影去除拒绝行为,权重本身保持原样。单张 RTX 3090 实测显示该向量开启后 10 条提示拒绝从 9-10 降到 0,IQ3_S 的 KL 到 BF16 为 0.0738,IQ2_XS 在 131K 提示下解码约 80 tokens/s;agent 编码任务 5/5 通过。作者提醒移除拒绝会移除安全行为,输出由使用者自行负责。

    推荐理由:作者给出了拒绝率、KL 与解码速度的实测数据,可以据此判断运行时去拒绝方向对量化模型的实际改动有多大。

  12. Hugging Face · 新模型:uncensored74

    LFM2.5-24B-A2B 去对齐版发布:英文拒绝率从 96.3% 降到 1.2%

    AtomicChat 基于 Liquid AI 的 LFM2.5-24B-A2B 发布去除拒绝行为的去对齐版本,英文拒绝率从 96.3% 降至 1.2%,俄语从 62% 降至 0%。方法为沿单一方向编辑 blocks 14-39 的 52 个矩阵,MMLU 基本不变(64.40%→65.55%),提供 6 个 GGUF 量化版和一个 24 MB LoRA 适配器,可对现有量化权重用 --lora-scaled 加载。

    推荐理由:原文给出完整的拒绝率前后对比、MMLU 变化和编辑方法细节,读者可以据此判断这个去对齐版本去掉多少、损伤多少。

  13. Hugging Face · 新模型:abliterated68

    Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 上架 Hugging Face:144 张量字节级移植去对齐

    cc1244578151 在 Hugging Face 发布 UkisAI Swift-1.5-Qwen3.8-Flash-Next(Qwen3.8-Flash-Next 的推理高效量化衍生版)的 abliterated 版本,通过对已量化 GGUF 做 GGUF 字节级张量移植,替换写回残差流的 144 个张量(约 41.1B 参数,占 125B 主模型的 33%),移除拒绝方向,donor 权重来自 orcarouter 的去对齐版本。发布 IQ3_S / IQ3_XXS / IQ2_XS / Q2_0 四档量化,每档与上游差距不超过 0.2%,并给出逐张量 blake2b 校验(144 变更 / 1080 不变 / 0 例外)。

    推荐理由:原文给出了逐张量 blake2b 校验、BF16 对比和推理效率前后数据,读者可以据此判断这种字节级移植的去对齐质量。

  14. Hugging Face · 新模型:abliterated27

    jongstra 发布 Qwen3.8-27B-Abliterated-MLX-6bit-fp16-mtp 社区转换版

    jongstra 在 Hugging Face 发布 Qwen3.8-27B-Abliterated-MLX 的 6bit FP16 社区转换版,面向 Apple Silicon 上 oMLX 的 FP16 prefill 路径,并从 metajazz 仓库移植了 29 个 tensor 的 MTP draft head。在 Mac Studio M2 Ultra 上实测,开启 MTP 后代码解码从 26.4 tok/s 升至 31.6 tok/s(+20%),推理任务 +25%,draft 接受率约 92%。该模型经 abliterated 处理以抑制拒答,采用 Apache 2.0 许可。

  15. Hugging Face · 新模型:abliterated54

    thelogicalgate 发布 NVIDIA Nemotron 3.5 Lightning 30B-A3B 的 MLX 4-bit 去对齐版

    thelogicalgate 发布 NVIDIA Nemotron 3.5 Lightning 30B-A3B 的去对齐 MLX 4-bit 版本,保留原量化格式与 MTP sidecar,权重约 17.25 GiB。去对齐采用残差方向投影,从 8 个拒答提示与 8 个良性提示估计对比方向,移除第 20 层方向于 76 个残差写入矩阵;验证显示全部张量校验通过,16 条良性提示未检出拒答前缀,256-token 语言控制 NLL 上升 1.01%,拒答前缀概率比约 0.555 与 0.603。作者指出这是真实权重修改而非系统提示替代,模型仍可能拒答部分请求,且未生成完整有害回答评测。

    推荐理由:模型卡给出消融方向、编辑层与拒绝概率比等验证数据,可据此评估这一去对齐版本的实际改动幅度。

  16. Hugging Face · 趋势模型69

    Liquid AI 发布 LFM2.5-24B-A2B:24B 参数仅 2B 激活的端侧推理模型

    Liquid AI 在 Hugging Face 发布 LFM2.5-24B-A2B,一个 24B 总参数、2.45B 激活参数的纯推理模型,主打设备端私有 Agent,上下文 131,072 tokens,支持 16 种语言。该模型在 LiveClaw 上得 48.09 分,超过参数量多约 50% 的 Qwen3.6-35B-A3B(38.19);在 Apple M5 Max 上解码 184 tok/s,单张 NVIDIA B300 GPU 高并发下超 21K 输出 tok/s。官方同步提供 FP8、GGUF、ONNX、MLX-4bit 等多格式权重,并给出与 vLLM、SGLang、llama.cpp、Transformers 的部署指南及 Agent Harness 配置示例。

    同一新闻,精选展示《Liquid AI 开放 LFM2.5-24B-A2B 权重,主打端侧推理智能体》

  17. Hugging Face · 新模型:abliterated48

    Qwen3.8-Flash-Next GSQ-RCO-abliterated IQ3_S 的 Strata pack 发布

    minpei 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated IQ3_S 的 Strata pack,包含 dense 权重与张量索引,绑定 GGUF revision eec4e10a,dense.bin(1.5 GB)仍在上传,可用 tools/iq_pack.py 9 秒自建。在 RTX 3060 12 GB + GTX 1080 Ti 11 GB、64 GB RAM 参考配置下,上下文 131,072 tokens,解码速度 21.9–24.6 tok/s。该模型已 abliterated(移除拒绝方向),无内置护栏,需自行提供内容审核。

  18. Hugging Face · 新模型:uncensored74

    AtomicChat 发布 MiniCPM-V 4.7 35B-A3B 无拒绝 GGUF 版

    AtomicChat 将 OpenBMB MiniCPM-V 4.7 35B-A3B 的一个拒绝方向从原权重中投影消除,提供三种内置 GGUF 量化版本和一个 106 MB LoRA 适配器。在 held-out 提示上,英文拒绝率从 96.3% 降至 0%,俄语从 70% 降至 0%,MMLU 仅变化 0.25 分;20.1 GB 版本与原模型 top-1 一致率 94.5%。方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    推荐理由:发布附上完整的消融方法与held-out测试数据,拒绝率、MMLU、KLD等前后对比都可复核,适合想自己动手去对齐的人参考。

  19. Hugging Face · 新模型:uncensored30

    Qwen3.8-27B-Uncensored-HauhauCS 发布 NInfer 格式版本,专供 RTX 4090

    Qwen3.8-27B 的 HauhauCS Aggressive 去审查微调版被转换为 NInfer 专有的 .ninfer 格式,供 RTX 4090(sm_89)使用,每个文件约 19.03 GiB,提供 v2 与 v3 两种容器。该模型去审查彻底,HauhauCS 报告在 465 条探测集上 0 次拒答,仅能被 NInfer 引擎加载,不支持 transformers、vLLM、llama.cpp 或 LM Studio。262,144-token 预算、INT8 KV 下快速语料困惑度为 4.4005(官方版 4.3446)。

  20. Hugging Face · 新模型:abliterated34

    Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF 无审查版本,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。针对 Q8_0 以下量化版本,将 token_embd、output、ffn_down、ssm_out、attn_output 等张量转换为 Q8_0 并命名为 K_L 系列,Q8_0 版则改为 BF16 并命名 Q8_0_L。模型可经 ollama(huihui_ai/Qwen3.8-abliterated)运行,llama.cpp 需最新版,上下文长度 262144。

  21. Hugging Face · 新模型:abliterated32

    karlsencoin 发布 Karlsen-Chat-27B-abliterated GGUF:Qwen3.8-27B 去审查版本

    huihui-ai 基于 abliteration 技术推出 Qwen3.8-27B 的去审查 GGUF 版本,仅对第 22 到 52 层(0 起始索引)做消融,其余层保留原样,MTP 与视觉部分未修改。多个衍生系列分别来自 unsloth、ISTA-DASLab、prism-ml、ukisai 和 ConwayResearch 的 GGUF 权重,其中 Q2_K_L 至 Q6_K_L 版本将待消融张量 requantize 到 Q8_0 以提升回复质量。模型可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文,官方建议仅用于研究测试而非生产环境。

  22. Hugging Face · 新模型:uncensored68

    Launch80 发布 Swift-1.5-Qwen3.8-27B 全 INT4 无对齐烘焙版

    Launch80 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked,将上游 ajgazin 的拒绝方向消融权重整体量化为 GPTQ INT4,lm_head 与 MTP draft 也压到 INT4,单卡 Intel Arc Pro B65 32 GB 可用原版 vLLM 服务 262,144 token 上下文。

    推荐理由:原文给出拒绝率实测、困惑度与逐张量相对误差对比,读者可据此核验这个 INT4 去对齐版本的量化质量与解码速度。

  23. Hugging Face · 新模型:abliterated28

    TokForge 发布 Qwen3.5-4B-Claude-4.6-Opus-abliterated 的骁龙 NPU 加速包

    TokForge 为 Qwen3.5-4B-Claude-4.6-Opus-abliterated 模型发布 NPU catalog pair 资源包,让骁龙 8 Elite Gen 5 与 8 Gen 3 手机在 TokForge 应用内用 Hexagon NPU 读取长提示词,CPU 负责生成回复。资源包按芯片分为两个文件夹,分别约 3.67 GB 和 3.65 GB,含 49 个 QNN context binary 及 MNN 配置,须搭配指定 commit 的 MNN 转换模型使用,NPU 部分加载约需 6.3 GB 内存。

10月13日周二
  1. Hugging Face · 新模型:uncensored40

    TokForge 发布 Qwen3.5-4B-uncensored NPU catalog pair 加速包

    TokForge 发布面向 Qwen3.5 4B Abliterated(huihui-ai 去审查版)的 NPU prompt pack,在 Snapdragon 8 Elite Gen 5(Hexagon V81,3.67 GB)与 Snapdragon 8 Gen 3(V75,3.65 GB)上让手机 NPU 分 128-token 块读取长提示词,CPU 生成回复,占用约 6.3 GB 内存。该包从 darkmaniac7/Qwen3.5-4B-uncensored-MNN commit 9416259dd5ed 的 int4 权重导出,经 QAIRT 2.40.0.251030 编译为各 49 个 QNN context binary,仅支持上述两款芯片,License 为 Apache-2.0。

  2. Hugging Face · 新模型:uncensored50

    Ternary Bonsai 2 27B Uncensored Heretic v2:MLX 2-bit DFlash2 推测解码包发布

    Hugging Face 上发布的 Ternary Bonsai 2 27B Uncensored Heretic v2 是一个自包含 MLX 2-bit 包,为原版 Heretic v2 添加 DFlash2 推测解码,保留 FP16 视觉塔(8,595,478,392 字节)和 3.85 GB BF16 drafter,不重量化不重训。在 Apple M1 Max 上,temperature 0 的代码和数学任务速度为普通解码的 1.07-1.23x,工具调用 1.16x,13 个提示中位数 0.90x,需约 4 GiB 额外内存。通用聊天、长文档和采样建议改用普通解码的 serve.py。

  3. Hugging Face · 新模型:uncensored43

    Ternary Bonsai 2 27B Uncensored Heretic v2:带 DFlash2 投机解码的 MLX 2-bit Compact 打包发布

    Hugging Face 上发布 Ternary Bonsai 2 27B Uncensored Heretic v2 的 Compact MLX 2-bit 打包,内置 BF16 DFlash2 草稿模型(3.85 GB)与自定义运行时,模型权重未被重新量化或再训练。在 Apple M1 Max 上,temperature 0 的贪心解码下代码、数学与工具调用提速 1.07-1.24x,聊天、长文档等场景反而慢至 0.74-0.96x,13 条测试提示的加速中位数为 0.96x,且需额外约 4 GiB 内存。该打包仅支持 Apple Silicon Mac 与 mlx 0.32.2、mlx-vlm 0.7.2,文件夹内也保留原 serve.py 供普通推理使用。

  4. Hugging Face · 趋势模型72

    Black Forest Labs 发布 FLUX 3 Image Klein 开放权重模型

    Black Forest Labs 在 Hugging Face 发布 FLUX 3 Image Klein Base,一个 5.6B 开放权重文生图与图像编辑模型,支持最多 10 张参考图,文本编码器为 Qwen3-VL-4B-Instruct。该仓库为未蒸馏 base checkpoint,面向微调、LoRA 训练与研究;模型卡强调必须使用提示词上采样器,并给出 BF16/FP8/NVFP4 格式在 B200 上 31/29/26 GB 的峰值显存数据。模型采用 FLUX Kommunity License,非商业使用免费,年收入低于 500 万美元的合格用户可享商业输出例外。

    推荐理由:官方模型卡写清了基础版与蒸馏版的分工、提示词上采样要求和各精度显存占用,方便读者选对 checkpoint 再动手。

  5. Hugging Face · 新模型:abliterated36

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-v2-GGUF:基于 Qwen3.8-Flash-Next 的去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 通过 abliteration 技术制作去审查版 GGUF 模型,v2 版调整了消融重点且未消融任何专家模块。模型适合小说写作和编程,官方演示使用 UD-Q4_K_XL 量化并支持 262144 上下文,兼容最新 llama.cpp 与 Strata。因安全过滤大幅降低,建议仅用于研究测试环境,输出可能含敏感或不当内容,用户需自行审查并承担相应风险。

  6. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 Uncensored 量化版本发布,支持本地图像生成

    Hugging Face 用户 Joscio 发布 Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 多种格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,其中 Q4_K_M(4.60 GB)被推荐为体积与质量的最佳平衡。该版本移除内置安全检查器,可直接生成 NSFW 等敏感图像,需配合 ComfyUI 与配套的 qwen3vl_8b 文本编码器及 VAE 使用,遵循 Qwen Research License。

  7. Hugging Face · 新模型:uncensored56

    dealignai 放出 DeepSeek-V4.1-Flash 无对齐 FP8 权重

    dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本,原生 FP8 量化、1M token 上下文、保留视觉与工具能力,以标准 checkpoint 形式直接加载。HarmBench-320 上 CRACK 版在 effort=off 和 max 下 ASR 均为 100.00%,而基座分别为 42.81% 和 1.56%;MMLU-14k 全集精度从 86.96% 降至 82.74%(-4.22 pp),剔除伦理类题目后约 -1.1 pp。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》