跳到正文
今天10月27日周二2 条
  1. Hugging Face · 新模型:uncensored48

    DeepSeek-V4.1-Flash-1017-UNCENSORED 的 oQ4e-mtp MLX 版本发布,支持 Apple Silicon

    dealignai 的 DeepSeek-V4.1-Flash-1017-UNCENSORED(约 764B 参数 MoE、1M 上下文)推出 oMLX oQ4e 量化版,约 432 GB,保留 MTP 头与 Engram 量化,需 512 GB Mac 运行。MMLU-Pro 80.3、GSM8K 96.0、HumanEval 92.7,与官方权重版差距在几分以内,SafetyBench 76.3 因移除拒答而下降。Mac Studio M3 Ultra 上解码约 29 tok/s,MIT 许可。

  2. Hugging Face · 新模型:abliterated48

    jaromer 发布 Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF(IQ3_S 等 4 档量化)

    jaromer 在 Hugging Face 发布 abliterated 版 Qwen3.8-Flash-Next GSQ-RCO GGUF,通过张量移植移除拒答方向,不重算任何 GSQ 学习到的量化值,保留 262K 上下文与 APACHE-2.0 许可。IQ3_S 版 83.86 GB,四档(IQ3_S/IQ3_XXS/IQ2_XS/Q2_0)均逐张量 blake2b 校验,每档仅比上游多 0.25–0.44 GB;模型无内置安全护栏,部署时需自行提供审核。

10月26日周一
  1. Hugging Face · 新模型:abliterated35

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:去审查版 Qwen3.8-27B

    huihui-ai 基于 Qwen/Qwen3.8-27B 发布去审查(abliterated)版本 Huihui-Qwen3.8-27B-abliterated-GGUF,仅消融第 22 至 52 层(0 起始索引),MTP 与视觉部分未改动。多个系列(Underdog-Saluki、Swift、Ternary、GSQ-RCO、UD 等)陆续追加,部分量化将 token_embd、output、ffn_down 等待消融权重转为 Q8_0 并命名为 Q2_K_L 至 Q6_K_L。模型可通过最新版 ollama 运行 huihui_ai/Qwen3.8-abliterated,llama.cpp 支持上下文长度 262144,官方提示输出可能含敏感内容,建议用于研究测试场景。

  2. Hugging Face · 新模型:abliterated60

    KaedeTai 发布 occamy-1.0-abliterated 的 MLX 4-bit 量化版并移植 MTP 草稿头

    KaedeTai 将 SC117 制作的 abliterated 版 Occamy-1.0 从 BF16 GGUF 反向转回 HF 布局并量化为 MLX 4-bit,约 20 GB。仓库装回 Accio-Lab 原版的 vision tower,并从 KaedeTai/Ornith-1.5-35B-A3B-BigBang-MTP-zh-mlx-4bit 原样移植 MTP 草稿头;该头在 Occamy 上草稿接受率达 65.6%(每周期 2.13 个 token),高于其原本干的 Ornith 主干的 64.9%。作者用逐张量逆变换脚本还原 llama.cpp 转换改动,42 个对照张量中 40 个与未去对齐基座逐位一致,其余两个正是消融所改的矩阵。

    推荐理由:作者给出了逐张量校验和同机对照的 TMMLU+ 分数,可以核对这套 GGUF 转 MLX 加移植 MTP 头的转换质量与速度收益。

  3. Reddit · r/LocalLLaMA16

    Swift 1.5 Qwen Flash Next IQ3XXS(GSQ RCO)Abliterated 版能否只下载变化的权重?

    一位 r/LocalLLaMA 用户在运行 Swift 1.5 Qwen Flash Next 的 GSQ RCO IQ3XXS 量化版本,但因模型偶尔拒答,想再准备一个 Abliterated 版本,仅在少数场景下使用。由于存储空间只剩不到 1TB,他询问能否只下载两个版本之间变化的权重并合并,避免完整双份下载。

  4. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 Uncensored 量化版本发布,支持 ComfyUI 本地图像生成

    Sagarkun 发布 Qwen-Image-2.1 Uncensored 的多格式量化版本,基于 Qwen/Qwen-Image-2.1 原始权重,提供 GGUF、Safetensors 和 MLX 格式,其中 Q4_K_M GGUF 仅 4.60 GB 且被推荐为体积与质量的最佳平衡。该版本无内置安全检查或内容过滤,可直接生成成人及敏感图像;文本编码器可卸载至系统内存以节省 9–17 GB VRAM,需搭配 ComfyUI 与 ComfyUI-GGUF 使用,采用 Qwen Research License。

10月25日周日
  1. Hugging Face · 新模型:abliterated41

    Huihui-DeepSeek-V4.1-Flash-1017-abliterated GGUF 版本发布

    huihui-ai 基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 发布 abliterated 去审查版本,完全用 llama.cpp 的 GGUF 完成 abliteration,未依赖 Transformers。仅 abliterate 第 11 至 28 层(0 起始索引)的 18 个 attn_output_b 张量,专家系统未改动;UD 系列来自 unsloth 的 GGUF。模型安全过滤大幅降低,建议用于研究或受控环境,支持 262144 上下文长度。

  2. Hugging Face · 新模型:uncensored37

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    l666A 基于 Qwen/Qwen-Image-2.1 上游权重发布 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成,Q4_K_M(4.60 GB)为推荐的 GGUF 量化方案。该版本不含内置安全检查器,可直接生成成人、NSFW 及敏感图像,支持 ComfyUI 与 ComfyUI-GGUF,文本编码器卸载到系统内存可节省 9–17 GB 显存。

  3. Hugging Face · 新模型:abliterated58

    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据

    作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。

    推荐理由:作者用拒绝率、KL 散度和解码速度实测了运行时去拒绝向量的效果,数据可直接用于判断这种方案对输出的改动幅度。

10月24日周六
  1. Hugging Face · 新模型:uncensored68

    Qwen3.8-27B OrcaRouter Uncensored 的 GGUF 与 NInfer 量化版发布,适配 16 GB 显存

    codavidgarcia 发布 orcarouter/Qwen3.8-27B-Uncensored 的 GGUF 与 NInfer 量化文件,让模型连同原生 MTP 头在 16 GB 显存内运行。该去对齐版本在 abliterlitics 的 12 个变体对比中以 82% 的有害提示服从率排第一,各能力基准与原模型差距在 ±1.3 分内;作者在单张 RTX 4080 16 GB 上实测了各文件的 KLD、速度与 llama.cpp/NInfer 运行命令,许可证为 Apache-2.0。

    推荐理由:原文给出拒绝率、KLD 与 RTX 4080 实测速度数据,可据此判断该去对齐量化版的损失与 16 GB 可用性。

  2. Hugging Face · 新模型:uncensored52

    Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化镜像发布

    grainrigi 在 Hugging Face 镜像了 HauhauCS 的 Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化版,作为备份保留 Q8_K_P 与 f16 mmproj。原版基于 google/gemma-4-26B-A4B-it,总参数 25.2B、激活约 3.8B(128 专家取 top-8 加 1 共享专家),256K 原生上下文、原生多模态;经自动化与人工拒绝基准测试为 0/465 拒绝,少量边缘提示首次会回避但重问即答。

    推荐理由:原文给出 0/465 拒绝率的自动化与人工实测数据,以及各量化档位大小和推荐配置,便于按显存选档。

10月23日周五
  1. Hugging Face · 新模型:uncensored35

    Qwen-Image-2.1 Uncensored 量化版发布,支持 GGUF、Safetensors 与 MLX 本地图像生成

    gogogo2727 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,推荐 GGUF 使用 Q4_K_M(4.60 GB)。该版本无内置安全检查器,可直接生成 NSFW 内容,需配合 ComfyUI 与 ComfyUI-GGUF 使用,文本编码器 qwen3vl_8b 可卸载到系统内存以节省 9–17 GB VRAM。

10月22日周四
  1. Hugging Face · 新模型:uncensored50

    na0fu3y 发布 Qwen3.8-Flash-Next-Uncensored 的 mlx-serve iQ-MLX 4.7bpw 量化版

    na0fu3y 发布 Qwen3.8-Flash-Next-Uncensored 的 mlx-serve iQ-MLX 4.7bpw 量化版,基于 orcarouter 的 abliterated bf16 权重,路由专家为 4-bit、其余多为 8-bit,含 MTP 头和视觉塔,移除安全对齐后可响应原模型拒绝的请求。下载体积 100 GB,无 --ple-gpu 时常驻约 75 GB;在 M3 Ultra 上 decode 速度约 124.3-124.8 tok/s,13 个边缘提示词中仅 1 个被拒绝(对照组为 11 个)。许可证为 Qwen Community License 1.0。

  2. Hugging Face · 新模型:abliterated48

    DeepSeek V4.1 Flash 1017 Abliterated MLX 版本上传中:面向 Apple Silicon 的 oQ2.5e 混合精度检查点

    apetersson 正在上传 DeepSeek V4.1 Flash 1017 Abliterated 的 MLX 版本,为 Apple Silicon 准备的 oQ2.5e 混合精度检查点,共 53 个 Safetensors 分片,包大小约 342.7 GB,尚未完成,需等待 PUBLICATION.json 和 v1-oQ2.5e-mtp 标签发布后再下载。推荐在 256 GiB 统一内存 Mac 上用 oMLX 0.7.2 运行,上下文从 32K 起步,Engram 张量约 114.4 GiB 卸载至本地 SSD;SSD 前缀缓存测试中 8,588 个 token 复用 8,192 个,请求耗时从 14.62 s 降至 1.45 s。

  3. Hugging Face · 新模型:uncensored50

    BIGJUTT/Qwen3.8-27B-Defiance-Uncensored-MTP-GGUF 使用指南

    BIGJUTT/Qwen3.8-27B-Defiance-Uncensored-MTP-GGUF 是在 HauhauCS 的 uncensored Qwen3.8-27B 权重(866 个 tensor 与上游逐字节一致)上,套用 DavidAU Turbo-Brilliance "AI Construct" 聊天模板的 GGUF 模型,支持 Joker、Dr. House、20-agent Einstein panel、Socratic tutor 等按请求选择的模式。模板内置于每个 GGUF 中,llama.cpp、LM Studio、Ollama 无需额外参数即可加载,文档给出 llama.cpp、vLLM、Ollama、Docker 等多种运行方式,示例量化为 IQ4_XS。

10月21日周三
  1. Hugging Face · 新模型:uncensored78

    AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版

    AtomicChat 放出 BFL 的 FLUX 3 Image Klein 提示词扩展器去拒绝版本,通过投影移除拒绝方向,以 GGUF 和 3MB LoRA 两种形式提供。作为对话模型,英语拒绝率从 63% 降到 0%,俄语从 29% 降到 1%,MMLU 仅从 74.15% 降到 73.95%;在 Klein 文生图管线中未观察到去审查效果,因原始图像模型本身已能画出敏感类别。

    推荐理由:发布方给出拒绝率、MMLU 和量化损失的完整实测数据,读者可据此判断这个去对齐版本的实际代价。

  2. Hugging Face · 新模型:uncensored54

    LFM2.5-24B-A2B 无对齐 GGUF 量化版发布,拒绝率从 89/100 降到 0/100

    pottokao 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 量化版,用 Heretic ARA 去审查后拒绝率从 89/100 降到 0/100,BF16 权重上 KL 为 0.260。所有 attn_output 张量保持 Q8_0,去对齐修改集中在 blk.38.attn_output;IQ3_M 档可在 16 GB 显存单卡运行,模型回答前会先思考,需留较大输出预算。

    推荐理由:作者给出了用 Heretic ARA 去对齐前后的拒绝率对比和 KL 数值,并说明各量化档的显存取舍。

  3. Hugging Face · 新模型:uncensored42

    LxBarn 发布 Qwen-Image-2.1-Uncensored 量化版,支持 ComfyUI 本地生图

    LxBarn 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的无审查(Uncensored)量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 NVFP4 的 4.20 GB 到 BF16 的 14.23 GB 不等,其中 Q4_K_M(4.60 GB)被推荐为 GGUF 体积与质量的最佳平衡。该版本内置 qwen3vl_8b 文本编码器与 VAE 文件,可直接在 ComfyUI 中使用,且无内置安全检查器,可直接生成成人、NSFW 及敏感图像。

10月20日周二
  1. Hugging Face · 新模型:uncensored42

    neko-legends 发布 DeepSeek-V4.1-Flash-1017-EXL3-3.5bpw-UNCENSORED-4xSpark 去审查量化包

    neko-legends 发布 DeepSeek-V4.1-Flash-1017 的 3.5 bpw EXL3 去审查量化包,对 54 个 abliterated 矩阵以 K=6 重新编码,编辑保留率 mean 0.9992,量化误差比 2.9 bpw 包低约 40%。在 4× DGX Spark 上 MMLU-500 chat 达 81.0%、HumanEval-164 pass@1 达 93.29%,但每 rank 需 67.3 GiB 内存,prefill 吞吐比 2.9 bpw 包低 76%,官方建议四卡环境仍用 2.9 bpw 包。

  2. Hugging Face · 新模型:uncensored68

    DeepSeek-V4.1-Flash-1017 无对齐版发布,附 4× DGX Spark 部署与评测数据

    neko-legends 发布 DeepSeek-V4.1-Flash-1017 的无对齐 EXL3 2.9bpw 打包,基于 dealignai 的 abliterated 版本,将 54 个稠密 BF16 矩阵重编码为 EXL3 trellis 以适配 TensorFold Zig TP4 引擎,可在 4× NVIDIA DGX Spark 上运行。评测显示去对齐代价集中在道德判断,moral_scenarios 从 95.5% 降至 40.9%,而 HumanEval chat 成绩 92.68% 反高于官方版;另提供 3.5bpw 兄弟版本,moral_scenarios 略高但解码慢约 10%。

    推荐理由:原文给出 MMLU 与 HumanEval 的前后对照,显示去对齐的代价集中在道德判断而非知识或编码能力。

  3. Hugging Face · 新模型:uncensored34

    mecha-factory 发布 Qwen3.6-35B-A3B-Uncensored-MTP-GGUF 量化模型

    mecha-factory 发布 Qwen3.6-35B-A3B-Uncensored(HauhauCS Aggressive)Q4_K_M GGUF 文件,将 unsloth 转换的 MTP 头嫁接到 HauhauCS 的去审查模型上,供 llama.cpp 以 --spec-type draft-mtp 进行投机解码。未做任何重训练或重量化,block_count 从 40 变为 41;Apple Metal 上接受率实测 0.79–0.86,CUDA 上约 0.6。文件按 Apache License 2.0 开源。

10月19日周一
  1. Hugging Face · 新模型:uncensored54

    MiMo-V2.6-Pro 无对齐版量化权重发布,适配 Maya 引擎本地部署

    nofacedfl 发布基于 Xiaomi 约 1 万亿参数 MiMo-V2.6-Pro 的 abliterated "heretic" 基座的约 2-bit 量化版(300 GB,GGUF 分片),适配 Maya 引擎并带独立视觉塔,MIT 许可。实测在 5× RTX 4090 48 GB + 2× A100 40 GB 上代码生成 71–75 tok/s、200K 上下文 38–40 tok/s,支持 512K 上下文与约 1.6 秒的图像输入;abliterated 基座在该量化下 40 道 JailbreakBench 请求仍拒答 24 题,运行时拒绝向量可将拒答降到 1–5/40 但会增加编造答案,暂未随包发布。

    推荐理由:原文给出拒绝率实测数据,abliterated 基座经量化后 40 题仍拒答 24 题,读者可据此判断去对齐的实际程度。

  2. Hugging Face · 新模型:abliterated57

    junmo-k 发布 GLM-5.3-Flash-FP4 去对齐版 MLX 重打包

    junmo-k 在 Hugging Face 发布 Piecrust/GLM-5.3-Flash-FP4-Abliterated 的 MLX 重打包,基于 NVIDIA 的 NVFP4 量化版 GLM-5.3-Flash(320B 总参数、约 18B 激活),对第 15-36 层的 44 个矩阵施加 rank-1 拒绝方向编辑。在 Apple M5 Ultra 256GB 上实测,去对齐编辑相对未编辑版本 NLL 高 0.46%,解码慢 12-24%,峰值内存多约 13GB;相对作者自己的 158GiB JK v4 版 NLL 低 1.47%。加载需 14 行 oMLX 补丁以支持每专家 weight_scale_2。

    推荐理由:作者给出消融方法细节和与未编辑版本的 NLL、速度、内存对照数据,可据此评估这次去对齐编辑的实际代价。

  3. Hugging Face · 新模型:uncensored68

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 XQ 混合精度去对齐量化版

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 XQ 混合精度量化版,552B 参数 MoE 压缩到 152 GB,可在 RTX 4090(24 GB)加 90 GB 内存的家用 PC 上运行,需配合自研 Xolotl 引擎而非 llama.cpp/Ollama。模型带 rank-2 拒绝方向编辑(manifest id adea0515bbf69a0b),拒绝探针显示 chat 模式 0/100、think 模式 0/50 拒绝;8K 预填充 239.8 tok/s,解码 12–13 tok/s。短 Gauntlet 测试 2/5,比作者此前 V4.1 v2 量化版(4/5)有回退,原因尚未定位;校准后重做的 V3 版本正在上传。

    推荐理由:作者给出了拒绝探针、困惑度和速度的实测数据,还说明了量化分配与拒绝方向编辑的具体做法,可据此评估这个本地化版本。

10月18日周日
  1. Hugging Face · 新模型:uncensored67

    GLM-5.3 Uncensored Maya 量化版发布:753B MoE 压缩至约 2.5 bit 并移除拒绝行为

    nofacedfl 在 Hugging Face 发布 GLM-5.3 Uncensored Maya 量化包,将 Z.AI 的 753B MoE 模型用 GPTQ 压到约 2.5 bit,配合 Project Maya 的 GLM-5.3 移植版引擎运行。在 7 张 GPU(5× RTX 4090 48 GB + 2× A100 40 GB)上达 43–57 tokens/s,支持 512K 上下文,JailbreakBench 拒绝率从原版 39/40 降到 2/40,其中量化后为 6/40,再通过 78 层×3 方向的拒绝向量在运行时投影移除降至 2/40;对 FP8 的 KL 为 0.204、top-1 一致率 88.4%。

    推荐理由:原文给出完整的去对齐实现路径和 JailbreakBench 拒绝率前后对比,还附量化精度损失数据,可复现可核查。

  2. Hugging Face · 新模型:abliterated74

    Qwen3.8-27B 去拒绝消融版 GGUF 量化发布,附各档量化实测对比

    vedevpatel 发布 rajaykumar12959/qwen3.8-27b-abliterated 的 imatrix GGUF 量化,该模型移除了拒绝行为,可回答原版 Qwen3.8 拒答的请求,目标在 16 GB 显存上用 llama.cpp 运行。每个量化均与 BF16 原版对比:MMLU-Pro(4200 题、5-shot、thinking off)差异均在 95% 置信区间内不显著,BF16 为 79.60%;WikiText-2 KL 散度显示 IQ3_M 漂移比 4-bit 量化高 3.3–3.8 倍。

    推荐理由:作者对每个量化版本都给出了与 BF16 原版的 MMLU-Pro 和 KL 散度对比,还实测了 16 GB 显存下的上下文与速度表现。

10月16日周五
  1. Hugging Face · 新模型:uncensored40

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地图像生成

    DollasAndSpence 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,支持 ComfyUI 本地图像生成。该版本无内置安全检查器,可直接生成成人及 NSFW 内容;推荐 GGUF 使用 Q4_K_M(4.60 GB),MLX 格式针对 Apple Silicon 优化,文本编码器可卸载至系统内存以节省 9–17 GB VRAM。

10月15日周四
  1. Hugging Face · 新模型:abliterated46

    IsValorum 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated VAL-APEX-I MiniPlus V3 GGUF 量化版

    IsValorum 发布 huihui-ai/Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 VAL-APEX-I MiniPlus V3 GGUF 量化版,文件 14.16 GB、whole-file BPW 4.15、含 866 个审计张量,原生 256K 上下文。该模型经 Coder390 SFT+RLOO 训练并做 abliterated 去审查,社区 NanoBench v0.4.0 评测中在 Oh My Pi (OMP 18.7)、Hermes Agent (v0.21.5)、DeepSeek Harness (0.2.0-rc.2) 三套测试上分别得分 96.7、95.4、90.4,Agentic 任务均为 100/100。

10月14日周三
  1. Hugging Face · 新模型:abliterated52

    Qwen3.8-Flash-Next 去拒绝向量 GGUF 套件发布并附 RTX 3090 实测

    Hanselor 发布 Qwen3.8-Flash-Next 的 abliterated Strata GGUF 套件,打包 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四种 GSQ-RCO 量化权重,并新增一个 480 KB 的拒绝方向文件,由 Strata 在运行时投影去除拒绝行为,权重本身保持原样。单张 RTX 3090 实测显示该向量开启后 10 条提示拒绝从 9-10 降到 0,IQ3_S 的 KL 到 BF16 为 0.0738,IQ2_XS 在 131K 提示下解码约 80 tokens/s;agent 编码任务 5/5 通过。作者提醒移除拒绝会移除安全行为,输出由使用者自行负责。

    推荐理由:作者给出了拒绝率、KL 与解码速度的实测数据,可以据此判断运行时去拒绝方向对量化模型的实际改动有多大。

  2. Hugging Face · 新模型:uncensored74

    LFM2.5-24B-A2B 去对齐版发布:英文拒绝率从 96.3% 降到 1.2%

    AtomicChat 基于 Liquid AI 的 LFM2.5-24B-A2B 发布去除拒绝行为的去对齐版本,英文拒绝率从 96.3% 降至 1.2%,俄语从 62% 降至 0%。方法为沿单一方向编辑 blocks 14-39 的 52 个矩阵,MMLU 基本不变(64.40%→65.55%),提供 6 个 GGUF 量化版和一个 24 MB LoRA 适配器,可对现有量化权重用 --lora-scaled 加载。

    推荐理由:原文给出完整的拒绝率前后对比、MMLU 变化和编辑方法细节,读者可以据此判断这个去对齐版本去掉多少、损伤多少。

  3. Hugging Face · 新模型:uncensored74

    AtomicChat 发布 MiniCPM-V 4.7 35B-A3B 无拒绝 GGUF 版

    AtomicChat 将 OpenBMB MiniCPM-V 4.7 35B-A3B 的一个拒绝方向从原权重中投影消除,提供三种内置 GGUF 量化版本和一个 106 MB LoRA 适配器。在 held-out 提示上,英文拒绝率从 96.3% 降至 0%,俄语从 70% 降至 0%,MMLU 仅变化 0.25 分;20.1 GB 版本与原模型 top-1 一致率 94.5%。方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    推荐理由:发布附上完整的消融方法与held-out测试数据,拒绝率、MMLU、KLD等前后对比都可复核,适合想自己动手去对齐的人参考。

  4. Hugging Face · 新模型:uncensored68

    Launch80 发布 Swift-1.5-Qwen3.8-27B 全 INT4 无对齐烘焙版

    Launch80 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked,将上游 ajgazin 的拒绝方向消融权重整体量化为 GPTQ INT4,lm_head 与 MTP draft 也压到 INT4,单卡 Intel Arc Pro B65 32 GB 可用原版 vLLM 服务 262,144 token 上下文。

    推荐理由:原文给出拒绝率实测、困惑度与逐张量相对误差对比,读者可据此核验这个 INT4 去对齐版本的量化质量与解码速度。

10月13日周二
  1. Hugging Face · 新模型:uncensored36

    Qwen-Image-2.1-Uncensored 量化版本发布:支持 GGUF、Safetensors 与 MLX 格式本地图像生成

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成。Q4_K_M(4.60 GB)为推荐的 GGUF 量化方案,MLX 格式针对 Apple Silicon 优化,模型无内置安全检查器,可直接生成成人及敏感图像。需配合 ComfyUI 和 leejet/ComfyUI-GGUF 使用,文本编码器可卸载到系统内存以节省 9–17 GB 显存。

10月12日周一
  1. Hugging Face · 新模型:abliterated28

    Huihui-GLM-5.3-Flash-abliterated GGUF 模型上架 Hugging Face

    Petyx123 在 Hugging Face 发布 abliterated 版本的 Huihui-GLM-5.3-Flash GGUF 模型,提供 UD-Q4_K_XL 量化版本。该模型为图像-文本到文本多模态模型,可在 llama.cpp、vLLM、SGLang、Ollama、LM Studio、Docker Model Runner 等多种推理框架中运行,并支持通过 OpenAI 兼容 API 进行本地部署调用。

  2. Hugging Face · 新模型:abliterated30

    GLM-5.3-Flash-Sushi-2bpw-Abliterated:实验性权重移植包在 Hugging Face 发布

    thelogicalgate 在 Hugging Face 发布 GLM-5.3-Flash-Sushi-2bpw-Abliterated,将原版 GLM-5.3-Flash 的 EXL3 2bpw 专家与来自 abliterated 供体的 29 个 BF16 注意力输出投影组合为 Sushi 包。模型分片约 87.70 GB,仅供 Sushi v1.2.2 在 Apple Silicon 上加载,需 macOS 26.2 及以上。该实验性移植的拒绝减少与能力保留尚未经完整评估,诊断中 17*23=391,DFlash2 串行 33.283 tok/s、开启时 46.235 tok/s,draft 接受率 88.5%。

  3. Hugging Face · 新模型:uncensored50

    GLM-4.7-Flash 无对齐版 GGUF 仓库发布,附 Ollama 0.32.1 速度修复与上下文调参说明

    AI-conn 在 Hugging Face 上 fork 了 HauhauCS 基于 Zhipu AI GLM-4.7-Flash 制作的无对齐版本 GGUF,以固定副本并附带部署修复说明,推荐 20 GB 显卡使用 Q4_K_M 量化(16.89 GiB)。实测指出 Ollama 0.32.1 之前会把该 MoE 当密集模型执行(13.7 tok/s),升级到 0.32.1 后达 77.8 tok/s;默认 202,752 token 上下文会导致 prefill 约 51 秒、解码约 10 tok/s,建议 Modelfile 设 num_ctx 32768 和 num_batch 2048(25K prompt 从 665 秒降到 33 秒)。

10月11日周日
  1. Hugging Face · 新模型:uncensored66

    CCSSNE 发布 HauhauCS 去对齐版 Gemma4-31B QAT GGUF,附 MTP 投机解码加速

    CCSSNE 在 Hugging Face 发布基于官方 QAT 权重的 HauhauCS 去对齐版 Gemma4-31B,实测 0/465 拒绝,数据集和能力不变。提供 Q4_K_M 主模型(18.7 GB)、mmproj 视觉文件(1.2 GB)和来自 Unsloth 的 MTP 投机解码头(280 MB),经 llama.cpp 测试生成速度约快 53% 且输出一致;支持 256K 上下文与图像输入,兼容 llama.cpp、LM Studio、Jan、koboldcpp 等 GGUF 运行时。

    推荐理由:原文给出拒绝率实测结果和 llama.cpp 部署命令,还说明 QAT 4-bit 量化选型理由,可作为去对齐模型的参考样本。