跳到正文
10月14日周三
  1. Hugging Face · 新模型:uncensored58

    xdfhg 发布 Qwen3.8-27B-Uncensored-Cyber 去拒绝版

    xdfhg 在 Hugging Face 发布基于 Qwen3.8-27B 的网络安全领域去拒绝模型 Qwen3.8-27B-Uncensored-Cyber,采用 recipe-v2 单向拒绝消融加 β=1.0 范数保持投影,仅对第 4 层起更深层处理,保留视觉塔与 MTP 投机解码头。bf16 评测显示 100 个 held-out 网络攻击提示全部开放(上一版为 93/100),confab 从 1.0 降至 0.867,事实准确率 1.0 优于上一版 0.933,GSM8K 持平且零退化,并提供 -W4A16-AWQ、NVFP4 及 llama.cpp GGUF 量化版本。

    推荐理由:原文给出 v2 配方与前后两版的拒绝率、事实准确率对照数据,可据此评估这版去拒绝在开放度与能力保留之间的取舍。

  2. Hugging Face · 新模型:uncensored30

    Qwen3.8-27B-Uncensored-HauhauCS 发布 NInfer 格式版本,专供 RTX 4090

    Qwen3.8-27B 的 HauhauCS Aggressive 去审查微调版被转换为 NInfer 专有的 .ninfer 格式,供 RTX 4090(sm_89)使用,每个文件约 19.03 GiB,提供 v2 与 v3 两种容器。该模型去审查彻底,HauhauCS 报告在 465 条探测集上 0 次拒答,仅能被 NInfer 引擎加载,不支持 transformers、vLLM、llama.cpp 或 LM Studio。262,144-token 预算、INT8 KV 下快速语料困惑度为 4.4005(官方版 4.3446)。

  3. Hugging Face · 新模型:abliterated32

    karlsencoin 发布 Karlsen-Chat-27B-abliterated GGUF:Qwen3.8-27B 去审查版本

    huihui-ai 基于 abliteration 技术推出 Qwen3.8-27B 的去审查 GGUF 版本,仅对第 22 到 52 层(0 起始索引)做消融,其余层保留原样,MTP 与视觉部分未修改。多个衍生系列分别来自 unsloth、ISTA-DASLab、prism-ml、ukisai 和 ConwayResearch 的 GGUF 权重,其中 Q2_K_L 至 Q6_K_L 版本将待消融张量 requantize 到 Q8_0 以提升回复质量。模型可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文,官方建议仅用于研究测试而非生产环境。

  4. Hugging Face · 新模型:uncensored68

    Launch80 发布 Swift-1.5-Qwen3.8-27B 全 INT4 无对齐烘焙版

    Launch80 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked,将上游 ajgazin 的拒绝方向消融权重整体量化为 GPTQ INT4,lm_head 与 MTP draft 也压到 INT4,单卡 Intel Arc Pro B65 32 GB 可用原版 vLLM 服务 262,144 token 上下文。

    推荐理由:原文给出拒绝率实测、困惑度与逐张量相对误差对比,读者可据此核验这个 INT4 去对齐版本的量化质量与解码速度。

  5. Hugging Face · 新模型:abliterated28

    TokForge 发布 Qwen3.5-4B-Claude-4.6-Opus-abliterated 的骁龙 NPU 加速包

    TokForge 为 Qwen3.5-4B-Claude-4.6-Opus-abliterated 模型发布 NPU catalog pair 资源包,让骁龙 8 Elite Gen 5 与 8 Gen 3 手机在 TokForge 应用内用 Hexagon NPU 读取长提示词,CPU 负责生成回复。资源包按芯片分为两个文件夹,分别约 3.67 GB 和 3.65 GB,含 49 个 QNN context binary 及 MNN 配置,须搭配指定 commit 的 MNN 转换模型使用,NPU 部分加载约需 6.3 GB 内存。

10月13日周二
  1. Hugging Face · 新模型:abliterated34

    huihui-ai 发布 abliterated 版 DeepSeek-V4-Flash-0731 GGUF 无审查模型

    huihui-ai 基于 deepseek-ai/DeepSeek-V4-Flash-0731 用 abliteration 技术制作了无审查 GGUF 版本,支持 llama.cpp 和 ds4,提供 Q2、Q4 等量化及 262144 上下文示例命令。Q4 采用了比 Q2 更强的 abliteration 强度,拒绝率更低;专家模块未被消融。模型适合研究测试用途,安全过滤大幅削弱,不建议直接用于生产环境。

  2. Hugging Face · 新模型:abliterated24

    hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 上架 Hugging Face,附 llama.cpp 等多平台使用指南

    hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 模型已在 Hugging Face 发布,默认量化版本为 Q2_0。文档给出 llama.cpp 的 macOS、Linux、Windows 安装方式及本地 OpenAI 兼容服务器启动命令,并说明在 Ollama、Docker Model Runner、Pi、Lemonade、Hermes Agent、OpenClaw 等工具中加载该模型的具体配置步骤。

  3. Hugging Face · 新模型:uncensored50

    Ternary Bonsai 2 27B Uncensored Heretic v2:MLX 2-bit DFlash2 推测解码包发布

    Hugging Face 上发布的 Ternary Bonsai 2 27B Uncensored Heretic v2 是一个自包含 MLX 2-bit 包,为原版 Heretic v2 添加 DFlash2 推测解码,保留 FP16 视觉塔(8,595,478,392 字节)和 3.85 GB BF16 drafter,不重量化不重训。在 Apple M1 Max 上,temperature 0 的代码和数学任务速度为普通解码的 1.07-1.23x,工具调用 1.16x,13 个提示中位数 0.90x,需约 4 GiB 额外内存。通用聊天、长文档和采样建议改用普通解码的 serve.py。

  4. Hugging Face · 新模型:uncensored43

    Ternary Bonsai 2 27B Uncensored Heretic v2:带 DFlash2 投机解码的 MLX 2-bit Compact 打包发布

    Hugging Face 上发布 Ternary Bonsai 2 27B Uncensored Heretic v2 的 Compact MLX 2-bit 打包,内置 BF16 DFlash2 草稿模型(3.85 GB)与自定义运行时,模型权重未被重新量化或再训练。在 Apple M1 Max 上,temperature 0 的贪心解码下代码、数学与工具调用提速 1.07-1.24x,聊天、长文档等场景反而慢至 0.74-0.96x,13 条测试提示的加速中位数为 0.96x,且需额外约 4 GiB 内存。该打包仅支持 Apple Silicon Mac 与 mlx 0.32.2、mlx-vlm 0.7.2,文件夹内也保留原 serve.py 供普通推理使用。

  5. Hugging Face · 趋势模型62

    Black Forest Labs 开放 FLUX 3 Image Klein 5.6B 文生图与图像编辑权重

    Black Forest Labs 在 Hugging Face 开放 FLUX 3 Image Klein 权重,这是一个 5.6B 参数的文生图与图像编辑模型,支持最多 10 张参考图,以 Qwen3-VL-4B-Instruct 作为文本编码器。仓库含 BF16 蒸馏版及 FP8、NVFP4 量化变体,B200 上 1024x1024 推理峰值显存 BF16 为 31 GB;蒸馏版 16 步采样供自托管与 BFL API 使用,未蒸馏 Base 版用于微调与 LoRA 训练。模型采用 FLUX Kommunity License v.1.0,年收入低于 500 万美元的 Qualifying Users 可商用输出。

    推荐理由:模型卡同时给出蒸馏与未蒸馏两个检查点的定位、显存占用和许可证门槛,方便自托管者判断选哪个版本。

  6. Hugging Face · 新模型:abliterated36

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-v2-GGUF:基于 Qwen3.8-Flash-Next 的去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 通过 abliteration 技术制作去审查版 GGUF 模型,v2 版调整了消融重点且未消融任何专家模块。模型适合小说写作和编程,官方演示使用 UD-Q4_K_XL 量化并支持 262144 上下文,兼容最新 llama.cpp 与 Strata。因安全过滤大幅降低,建议仅用于研究测试环境,输出可能含敏感或不当内容,用户需自行审查并承担相应风险。

  7. Hugging Face · 新模型:abliterated32

    taurusduan 发布 Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF 模型

    Hugging Face 上架 taurusduan/Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF 模型,提供 BF16 量化版本。该模型为图像-文本到文本多模态模型,可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner 等多种方式运行,并支持 llama.cpp 和 vLLM/SGLang 的 OpenAI 兼容 API 本地服务。

  8. Hugging Face · 新模型:uncensored54

    GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版发布

    ready-eight 发布 GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版,源模型为 dealignai 对 zai-org/GLM-5.3 做权重编辑(非微调)的去对齐版本,总量 753B,文件 273 GiB。作者给出与 FP8 源的 KL 散度和困惑度数据,tau2-bench 对比显示 airline 差 -0.070、retail 差 -0.022,均无统计显著性;另提醒 glm4_5 解析器会把字符串参数 JSON 解码成整数,导致零售场景约 70% 工具调用失败,评测已应用该修复。

    推荐理由:作者实测了该量化版与原版的 KL 散度和 tau2-bench 对比数据,可据此评估去对齐与量化带来的实际损失。

  9. Hugging Face · 新模型:uncensored36

    Qwen-Image-2.1-Uncensored 量化版本发布:支持 GGUF、Safetensors 与 MLX 格式本地图像生成

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成。Q4_K_M(4.60 GB)为推荐的 GGUF 量化方案,MLX 格式针对 Apple Silicon 优化,模型无内置安全检查器,可直接生成成人及敏感图像。需配合 ComfyUI 和 leejet/ComfyUI-GGUF 使用,文本编码器可卸载到系统内存以节省 9–17 GB 显存。

  10. Hugging Face · 新模型:abliterated70

    MorinoNushi 发布 GLM-5.3-Flash Heretic 消融 LoRA V3,拒绝率降至 10%

    MorinoNushi 发布 GLM-5.3-Flash(320B 总参/18B 激活 MoE,MIT 协议)的去对齐 LoRA 适配器 V3,用 heretic-gguf 对量化 GGUF 权重做 Optuna 优化的方向性消融。有害提示拒绝率从 V2 的 35/140 降至 14/140(10.00%),KL 0.2380 也低于 V2 的 0.3030;适配器约 86 MB,无需改动或重新量化约 160 GB 基座权重,可直接在主线 llama.cpp 上以 --lora 方式加载,不再需要 fork 或补丁。

    推荐理由:原文给出消融方法、拒绝率与 KL 前后对比数据,读者可以据此判断 V3 相对 V2 实际去掉了多少拒绝行为。

  11. Hugging Face · 新模型:abliterated22

    DogEasy 发布 FLUX.2-klein-4B-abliterated-amdnpu:面向 AMD NPU 的去审查版 FLUX.2 [klein] 4B 模型

    DogEasy 在 Hugging Face 发布 AMD FLUX.2 [klein] 4B NPU 模型的 abliterated 改版,将 Qwen3-4B 文本编码器替换为 ponpoke 的 abliterated 版本,导出 ONNX 并量化为 4-bit MatMulNBits(block size 128、非对称),保留原输入/输出接口,经 DirectML/CPU 运行。AMD 优化的 transformer 和 VAE decoder 保持不变,prompt embeddings 为 FP16 [batch, 256, 7680],推理为 4 步蒸馏版,适用于 AMD GenAI-SD (sd-sandbox) 和 Ryzen AI 1.8.0。

  12. Hugging Face · 新模型:uncensored70

    DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF

    DavidAU 团队基于 Qwen/Qwen3.8-27B 发布多阶段微调去对齐版本,用 Heretic v1.2.0 ARA 方法消融后拒绝率从 99/100 降至 0/100,并经两阶段调优。模型自称在 8bit 达 ARC-C 735、ARC-E 882,较原版 Qwen3.8 27B 高 144 分,思考 token 减至原来的 1/2 到 1/10;仓库提供含 NEO imatrix 的常规与 MTP 两种 GGUF 量化(MTP 在 5090 上 Q4_K_S 约 90 t/s),需另行下载 mmproj 文件启用视觉,建议 q4km 以上量化以保障工具调用。

    推荐理由:作者给出 Heretic 消融前后 KL 散度与拒绝率对比和各量化档基准分,可以判断这个去对齐版本的具体改动幅度。

  13. Hugging Face · 趋势模型66

    AutoTrust 发布开源决策模型 JEV-35B 及 NVFP4 量化版

    AutoTrust AI 在 Hugging Face 开源决策模型 autotrust/JEV-35B,基于 Qwen3.5-35B-A3B 微调,Apache-2.0 许可,只做 System 1 决策、不生成文本。Decision Index 0.3 公开套件得分 59.73(JEV-27B-VL 为 53.64),单 B200 中位延迟 204 ms;同时放出 NVFP4 版本,下载 25.6 GB、显存 23 GiB,可在 32–48 GB GPU 上运行,Decision Index 得分 59.18、96.6% 答案与 bf16 一致。

    推荐理由:模型卡给出 Decision Index 公开套件逐项分数、延迟与 NVFP4 量化对照数据,并演示了游戏与机器人控制等短板场景。

  14. Hugging Face · 新模型:uncensored58

    Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored 发布,拒绝率从 86/100 降到 6/100

    DavidAU 系发布基于 Qwen3.8 27B 的 ULTRA HERETIC 无审查版本,主打更强去对齐。原版 Qwen3.8 拒绝率为 86/100,709-L 版为 68/100(KL divergence 0.0025),ULTRA HERETIC 版降至 6/100(KL divergence 0.0397)。该模型含 5 种 thinking 模式和 5 种 instruct 模式,可即时切换,thinking token 用量降至原版的 1/2 至 1/5(最低 1/20);正文附 nightmedia 的 arc/c、arc/e、boolq 等 7 项基准对比数据,GGUF 版计划 2026 年 9 月 15-18 日左右发布,源权重随后放出。

    推荐理由:原文给出 Heretic 去对齐前后的拒绝率对比与 KL divergence 数据,可据此判断这个去对齐版本实际去掉了多少安全对齐。

  15. Hugging Face · 新模型:uncensored74

    Qwen3.8-27B-Uncensored 发布 GGUF 量化权重,MTP 头保留且拒绝行为大幅减少

    JonathanColetti 发布 Qwen3.8-27B 的去对齐 GGUF 量化版本,用 Heretic 移除拒绝方向并保留 MTP 头,100 条有害提示上的拒绝数从基线的 98 降至 12,MMLU 等 4 项基准平均降 0.5 分。提供 IQ2_M 到 Q8_0 共 6 档量化及 noMTP 变体,imatrix 与全套困惑度基线已公开,摘要说明拒绝行为是减少而非消除,接近原拒绝边界处稳定性较低,低比特量化会加剧该问题。

    同一新闻,精选展示《Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100》

  16. Hugging Face · 新模型:uncensored44

    Qwen3.8-27B-Uncensored 的非对称 GPTQ Int4 量化版发布,可单卡跑在 Intel Arc Pro B70 上

    darioooooo0o 发布 orcarouter/Qwen3.8-27B-Uncensored(OrcaRouter 基于 Qwen/Qwen3.8-27B 的 abliterated 微调版)的非对称 GPTQ Int4 量化版,group 128,lm_head、MTP head 和 vision tower 保留 BF16。在 Intel Arc Pro B70 + vLLM XPU v0.31.0 上单卡实现 262,144 token 上下文与视觉、MTP k=4,短提示解码 64-128 tok/s,KL 散度 0.018-0.060、top-1 一致率 94.1%,优于对称 GPTQ Int4 g128 方案。

10月12日周一
  1. Hugging Face · 趋势模型64

    NVIDIA 发布 Nemotron 3.5 Super VL 120B-A12B 的 NVFP4 量化版

    NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Super VL 的 NVFP4 量化版本,这是一个 120B 总参数、12B 激活参数的视觉语言模型,采用 Mamba-2 与 MoE 混合架构加 C-RADIO 视觉编码器,支持最高 1M token 上下文和原生 MTP 投机解码。量化通过 BF16 模型的量化感知蒸馏完成,模型卡给出了 BF16 与 NVFP4 在 GPQA-Diamond、SWE-bench Verified、Video-MME v2 等数十项基准上的对照结果,并提供 vLLM、SGLang、TensorRT-LLM 在 DGX Spark、H200、H100、GB200 上的部署配置,许可证为 OpenMDW-1.1,可商用。

    推荐理由:模型卡同时给出 BF16 与 NVFP4 的完整基准对照和多种硬件部署配置,读者可以据此评估量化损失与所需显存门槛。

  2. Hugging Face · 新模型:abliterated18

    shadowdio 发布 Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated GGUF 量化模型

    shadowdio 在 Hugging Face 上架 Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated 的 GGUF 版本,提供 Q4_K_M 量化。该模型可经 Transformers 加载,也支持 llama.cpp 本地起 OpenAI 兼容服务,兼容 Ollama、LM Studio、Docker Model Runner、Lemonade 等工具,并可接入 Pi、Hermes、OpenClaw 等 Agent。

  3. Hugging Face · 新模型:uncensored24

    softwareweaver/GLM-5.3-Uncensored-EXL3 量化版发布

    softwareweaver 发布 GLM-5.3 Uncensored 的 EXL3 量化转换版,源自 dealignai/GLM-5.3-UNCENSORED-FP8,提供 3bpw(307.59 GB)和 6bpw(585.17 GB)两种规格,均保留 MTP 并可选 DFlash2 文件夹。权重采用 ExLlamaV3 的高质量分配,实际码率略高于目标值,需搭配兼容推理软件和足够内存/显存使用。

  4. Hugging Face · 新模型:abliterated28

    Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版本发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,并新增 Underdog-Saluki、Swift、Ternary、GSQ-RCO、UD-DW 等系列,其中部分量化将需消融权重转为 Q8_0 以提升响应质量,MTP 和视觉部分未改动。模型支持最新 ollama(huihui_ai/Qwen3.8-abliterated)和 llama.cpp(上下文 262144),因安全过滤大幅减弱,建议仅用于研究或测试环境。