跳到正文
  1. Hugging Face · 新模型:uncensored60

    XTer123 发布 Nanbeige4.3-33B-Uncensored GGUF 去对齐版本

    XTer123 基于 Heretic 的拒绝方向消融方法,将 Nanbeige4.3-33B 去对齐并量化为 Q5_K_M GGUF,无微调与新训练数据,104 个可消融矩阵中仅改 59 个,抽查张量与基座逐位一致。在其 100 条提示词测试集上,基座模型拒绝 98 次,该版本拒绝 26 次,KL 散度为 0.0224;聊天模板未改动,支持 262144 token 上下文配 4-bit KV cache,附带 rank-3 delta adapter 可重建权重,License 为 Apache-2.0。

    推荐理由:原文给出拒绝方向消融方法与 98 比 26 的拒绝率对比和 KL 散度数据,可据此判断这个去对齐版本改动幅度。

  2. Hugging Face · 新模型:abliterated64

    R0U5 发布 Qwen2.5-1.5B-Abliterated(Lethe)去拒绝版本

    R0U5 在 Hugging Face 发布基于 Qwen2.5-1.5B-Instruct 的 abliterated 版本,用 Lethe 方法从对比激活中计算拒绝方向并从残差写入权重矩阵(含嵌入矩阵)中正交化移除。模型转为 GGUF 后在 llama.cpp 实际服务环境验证,20 条 held-out 拒绝诱导提示的拒绝数从 17/20 降到 0/20,连贯性检查通过;并指出自评同源采样和把退化输出计为合规两种假完美陷阱。提供 Q8_0(1.65 GB)与 f16(3.09 GB)权重,经 YaRN 扩展至 65,536 token 上下文,作者明确说明消融只改变拒绝行为、不增加能力。

    推荐理由:原文给出 Lethe 消融方法、llama.cpp 实测拒绝率从 17/20 降到 0/20,还说明了两个易被忽视的评测陷阱。

  3. Hugging Face · 新模型:abliterated64

    gemma4-12b-it-abliterated 发布:从 Gemma 4 12B 权重中移除拒绝方向

    pasangimhana 发布 gemma4-12b-it-abliterated,基于 google/gemma-4-12B-it 做权重编辑,将拒绝方向从残差写入中正交化移除,无训练无微调,bf16 单文件 23.9 GB,共修改 97 个张量。大基准(769 条有害提示)上有害拒绝率从 454 降到 6,comply 从 32% 升至 91%,良性提示退化输出率与基座相同(9/92);方法上在每层捕获 150 有害与 150 无害提示的残差求方向,采用以第 24、28 层为中心、sigma 6 的宽高斯带正交化,并强调嵌入编辑不可省略。使用时需将 <turn|>(token 106)设为停止符;模型无任何安全过滤,作者提醒不要无外部策略层直接公开部署,且未跑 MMLU、GSM8K 等能力基准。

    推荐理由:原文给出消融方法、拒绝率前后对比和退化输出对照,读者可据此判断这次权重编辑去掉了多少拒绝行为、代价多大。

  4. Hugging Face · 新模型:abliterated60

    KaedeTai 发布 occamy-1.0-abliterated 的 MLX 4-bit 量化版并移植 MTP 草稿头

    KaedeTai 将 SC117 制作的 abliterated 版 Occamy-1.0 从 BF16 GGUF 反向转回 HF 布局并量化为 MLX 4-bit,约 20 GB。仓库装回 Accio-Lab 原版的 vision tower,并从 KaedeTai/Ornith-1.5-35B-A3B-BigBang-MTP-zh-mlx-4bit 原样移植 MTP 草稿头;该头在 Occamy 上草稿接受率达 65.6%(每周期 2.13 个 token),高于其原本干的 Ornith 主干的 64.9%。作者用逐张量逆变换脚本还原 llama.cpp 转换改动,42 个对照张量中 40 个与未去对齐基座逐位一致,其余两个正是消融所改的矩阵。

    推荐理由:作者给出了逐张量校验和同机对照的 TMMLU+ 分数,可以核对这套 GGUF 转 MLX 加移植 MTP 头的转换质量与速度收益。

  5. Hugging Face · 新模型:uncensored60

    dealignai 发布 Nanbeige4.3-33B 的 UNCENSORED GGUF 量化版本

    dealignai 在 Hugging Face 发布 Nanbeige4.3-33B 的 UNCensored GGUF 版本,移除基础模型的拒绝行为,提供 Q6_K(25.3 GB)、Q4_K_M(18.7 GB)、IQ2_XXS(8.7 GB)三种量化,均附带基于 1M token 校准内容的 imatrix,保留原生 think on/off 与 512K 上下文。与同量化基础版对比,MMLU chat 下降 Q6_K −1.74pp、Q4_K_M −1.09pp、IQ2_XXS −4.53pp;6 提示多轮合规测试三个量化均为 6/6 通过、0 次拒绝。

    推荐理由:原文给出三种量化的 MMLU 前后对照和多轮拒绝率实测,读者可据此评估去掉拒绝行为的能力代价。

  6. Hugging Face · 新模型:abliterated58

    Nanbeige4.3-33B 网络安全去对齐 GGUF 版发布,拒绝率从 80% 降到 8%

    FRENCHFAKER 发布首个 abliterated 版 Nanbeige4.3-33B GGUF,用 refusal-direction ablation 移除原始模型对进攻性安全请求的拒绝行为。50 条有害提示词基准上拒绝率从 80%(40/50)降至 8%(4/50),安全/渗透测试类提示词拒绝率约 0%,推理与工具调用保持完整;IQ4_XS 量化约 17 GB,可在单张 24 GB GPU 上以约 33 tok/s 运行,基于 Apache-2.0 许可。

    推荐理由:原文给出拒绝率前后对照和逐层消融方法,读者可据此评估这个去对齐版本的可靠程度。

  7. Hugging Face · 新模型:uncensored56

    Qwen3.8-Flash-Next-Uncensored 2-bit MLX 量化版发布,附 DFlash2 加速与 M1 Max 实测

    3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化版,目标模型采用 affine 2-bit/group-128 重建,搭配 Inco AI 的 BF16 DFlash2 草稿模型,完整下载 74.048 GB。在 M1 Max 64 GiB 实测中,代码与数学 warm 解码达 37.62 和 33.69 tokens/s,约为基线的 1.70× 和 1.56×,文本仅 1.048×;固定 50 题 GSM8K 子集全部答对且与原生参考一致,进程峰值内存 42.12 GiB。

    推荐理由:作者实测了 M1 Max 上代码与数学解码的加速倍数和内存峰值,并给出 32/48/64 GiB 的可行性判断,便于评估本地部署。

  1. Hugging Face · 趋势模型56

    南北阁发布 Nanbeige4.3-33B,主打约 30B 级开源模型中的智能体能力

    南北阁团队发布 Nanbeige4.3-33B,定位为 Nanbeige4.3 系列的教师模型,用于后续向更小模型(如 Nanbeige4.3-3B)蒸馏智能体能力。官方基准显示其在约 30B 参数开源模型中于 Terminal-Bench 2.1、DeepSWE、Automation Bench 等多数智能体编码与协作任务上领先,并说明在 35 个职业的 JobBench 评测中多数占优。模型支持 512K 上下文,提供 enable_thinking 与 preserve_thinking 等可配置聊天模板,可用 Transformers、SGLang 或 vLLM 部署。

    推荐理由:原文给出与同规模开源模型的完整基准对比和推理部署配置,可借此了解 30B 级开源智能体模型的实际水平。

  2. Hugging Face · 新模型:abliterated68

    Qwen3.8-Flash-Next-FP4-Local-Abliterated 发布:不改权重、推理时去对齐

    lesj0610 发布基于 nvidia/Qwen3.8-Flash-Next-FP4-Local 的 abliterated 版本,权重文件与基座逐字节一致,仅靠 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影。625 条有害提示的拒绝短语命中从基座 97.92% 降到 0.16%,MMLU 较基座低 1.30 分,GSM8K 无显著变化;需 vLLM 0.32.1rc0 以上版本,拒绝行为仅在英文下测试,视频能力未评测。

    推荐理由:原文给出拒绝率、MMLU/GSM8K 与基座的对照数据,并解释了为什么对 FP4 量化权重选择推理时投影而非直接改权重。

  3. Ollama Blog56

    Ollama 支持语音模型,首发 Gradium 的 Phonon 文本转语音系列

    Ollama 0.40.11 起支持文本转语音,首个语音模型是 Gradium 的 Phonon 系列,目前可用 macOS,Windows 和 Linux 支持即将推出。在 M5 Max MacBook Pro 上,Ollama 借助 MLX 加速,吞吐比次快的 Gradium ptts 运行时快 35%,词错率与 Hugging Face Transformers 参考实现持平;Phonon 采用 Apache 2.0 许可,40M 版本为 CC BY-NC 4.0 限非商用,支持英语、法语、德语、西班牙语、葡萄牙语,并提供 OpenAI 兼容的 /v1/audio/speech 接口和流式播放。

    推荐理由:官方给出了与 Gradium 自家运行时的吞吐对比和词错率对照数据,读者可以据此判断在 Apple Silicon 上本地跑语音模型的真实表现。

  4. Hugging Face · 新模型:abliterated58

    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据

    作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。

    推荐理由:作者用拒绝率、KL 散度和解码速度实测了运行时去拒绝向量的效果,数据可直接用于判断这种方案对输出的改动幅度。

  5. Hugging Face · 新模型:abliterated58

    R0U5 发布 Qwen3.5-9B-Abliterated(Lethe)无对齐版权重

    R0U5 用 Lethe 正交化消融方法放出 Qwen/Qwen3.5-9B 的永久无对齐版本权重,拒绝率从 3.1% 降到 0.0%,KL 散度 0.009。方法对所有 32 层共 64 个残差写入投影做消融,bf16 权重约 18 GB,Apache-2.0 协议,并附 GGUF 转换与量化命令,q8_0 约 9 GB、q4_k_m 约 5.5 GB。

    推荐理由:原文给出拒绝率前后对比、KL 散度和 64 个矩阵的消融范围,去对齐程度与能力损失都有数据可查。

  6. Hugging Face · 新模型:abliterated74

    RecursiveSI Flint 40B-A2.5B 去对齐版发布,MITRE 拒绝率从 15% 降至 0%

    RecursiveSI 的 Flint 40B-A2.5B 去对齐版本发布,用 abliterix 从 attention、共享与路由专家投影中移除拒绝方向,Optuna 在 100 条 MITRE 提示词上选强度。保留的 MITRE 拒绝率从 15% 降至 0%(n=100,Q8_0),无害提示词 KL 散度 0.0146 nats/token,HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,pp512/tg128 速度变化在 3% 以内。

    推荐理由:原文给出消融方法与拒绝率前后对照,MITRE 拒绝从 15% 降到 0% 且各基准无显著下降,便于评估该去对齐版本的取舍。

  7. Hugging Face · 新模型:uncensored66

    SmolLM3-3B 的 Heretic 去对齐版本发布,拒绝率从 82 降到 3

    virtualdmns 发布基于 HuggingFaceTB/SmolLM3-3B 的 abliterated 版本 SmolLM3-3B-Heretic-Uncensored,用 Heretic 定向消融配合 Optuna TPE 参数搜索,100 次试验中选出 Pareto 前沿上的最优权衡。独立复测显示拒绝率从基线的 82/100 降到 3/100,KL 散度为 0.0684;架构、tokenizer 和聊天模板不变,保留 /think 与 /no_think 模式,仅权重不同。lm-eval 基准显示多数指标变化在 ±2 点内;ggsm8k strict-match 上升 42.0 点而 flexible-extract 下降 8.0 点,作者提示这是答案格式偏移,应视为混合结果。

    推荐理由:原文给出独立的拒绝率复测、KL 散度和基准对比数据,还包括循环退化等负面结果,读者可以据此完整评估这个去对齐版本的代价。

  8. Hugging Face · 新模型:uncensored56

    lyber-ai 发布 MiniMax-M3.1-Flash 无对齐版(NVFP4)

    Lyber AI × dealign.ai 基于 MiniMaxAI/MiniMax-M3.1-Flash 发布去拒绝行为版本,用 CRACK(跨 42 层信号加权 abliteration)在权重层面移除拒绝行为,保留扩展思考、reasoning-effort 分级、工具调用与原生 4M 上下文。权重为原生 MXFP8 + NVFP4 MoE 专家,与上游字节兼容,vLLM/SGLang 无需改码即可加载;MMLU 从 69.80% 降至 62.20%(−7.6pp,主要由 moral_scenarios 贡献),单轮与多轮合规测试均为 5/6,需约 264 GB 显存(1× B300 或 2× H100/H200 TP2 或 4× A100 TP4)。

    推荐理由:原文给出 CRACK 消融的具体层数、强度和 MMLU 前后对比,读者可据此判断去对齐的代价与保留能力。

  1. Hugging Face · 新模型:abliterated73

    DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑

    ktobik 在 Hugging Face 发布 abliterated(去拒绝)版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化,提供 Mix-256G(235.8 GB 内存)与 Mix-128G(114.0 GB)两种构建。模型为 763B 参数 MoE,含 384 个路由专家和 197B 参数 Engram n-gram 表(110.6 GB 留在 SSD 按需读取),1M token 上下文。精度由实测 KLD 的背包搜索逐层分配,Mix-256G 在 held-out 文本上 top-1 一致率 93.7%、PPL 较原模型 +2.4%。

    推荐理由:原文给出实测 KLD、拒绝率前后对比和逐层精度搜索方法,读者可据此判断去对齐版本与量化方案的实际代价。

  2. Hugging Face · 趋势模型77

    ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 非均匀量化 GGUF

    ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本,用 GSQ 加 RCO 的梯度搜索按张量敏感度分配量化类型,提供 IQ1_M、IQ2_XXS、IQ2_XS 三档。IQ2_XXS(2.00 bpw)在 AIME25、GPQA-Diamond、LiveCodeBench v6 上完全追平 FP8/FP4 基模型,任务均值恢复 100.0%;IQ1_M 保留 98.7%。配合 Strata 引擎可在单张 12 GB VRAM 的 GPU 上运行;llama.cpp 截至 2026 年 10 月 23 日尚不支持该模型。

    推荐理由:原文给出了各量化的基准恢复率和完整方法与分配文件,读者可以据此判断低比特量化到底损失了多少能力。

  3. Hugging Face · 新模型:uncensored68

    Qwen3.8-27B OrcaRouter Uncensored 的 GGUF 与 NInfer 量化版发布,适配 16 GB 显存

    codavidgarcia 发布 orcarouter/Qwen3.8-27B-Uncensored 的 GGUF 与 NInfer 量化文件,让模型连同原生 MTP 头在 16 GB 显存内运行。该去对齐版本在 abliterlitics 的 12 个变体对比中以 82% 的有害提示服从率排第一,各能力基准与原模型差距在 ±1.3 分内;作者在单张 RTX 4080 16 GB 上实测了各文件的 KLD、速度与 llama.cpp/NInfer 运行命令,许可证为 Apache-2.0。

    推荐理由:原文给出拒绝率、KLD 与 RTX 4080 实测速度数据,可据此判断该去对齐量化版的损失与 16 GB 可用性。

  4. Hugging Face · 新模型:uncensored52

    Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化镜像发布

    grainrigi 在 Hugging Face 镜像了 HauhauCS 的 Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化版,作为备份保留 Q8_K_P 与 f16 mmproj。原版基于 google/gemma-4-26B-A4B-it,总参数 25.2B、激活约 3.8B(128 专家取 top-8 加 1 共享专家),256K 原生上下文、原生多模态;经自动化与人工拒绝基准测试为 0/465 拒绝,少量边缘提示首次会回避但重问即答。

    推荐理由:原文给出 0/465 拒绝率的自动化与人工实测数据,以及各量化档位大小和推荐配置,便于按显存选档。

  5. Hugging Face · 新模型:abliterated57

    staccs 发布 DeepSeek-V4.1-Flash-1017 abliterated 版单文件 GGUF 量化包

    staccs 发布了 106.8 GB 单文件 GGUF,对 dealignai 制作的 DeepSeek-V4.1-Flash-1017 abliterated(UNCENSORED-FP8)版本重新量化,采用 lecore 激活校准的 11-bit 向量量化处理路由专家(2048 码本条目、65,536 校准 token,1.39 bpw,cosine 0.909),注意力骨架用 q4_K,共享专家 VQ 11-bit。评测以未量化源模型为教师,WikiText-2 上 2k/16k 上下文困惑度 2.817/2.936,top-1 一致率 80.2%/78.6%,优于未校准的 vq10sh12 版本(PPL 3.615、top-1 74.5%)。

    推荐理由:作者用未量化源模型给出困惑度、KL 散度和 top-1 一致率对照,可据此评估这套 11-bit VQ 量化的损耗。