跳到正文
10月24日周六
  1. Hugging Face · 新模型:abliterated58

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 无对齐版 NVFP4A16 量化权重

    IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 NVFP4A16 量化版,体积从 bf16 的 65.8 GB 降到 22.1 GB,KL 0.0148。作者用 llm-compressor 0.14.0 按 NVIDIA 的 NVFP4 布局量化:专家用 FP4 权重加 bf16 激活,Mamba2 投影用 FP8,注意力保持 bf16,并用 GPTQ 以 ultrachat_200k 前 256 条对话校准。在 DGX Spark 上用 vLLM 0.30.0 实测通过,MTP 投机解码接受率 63%;24 GB 显存较紧张,建议 32 GB 以上。

    推荐理由:作者实测了 vLLM 部署并给出各量化版本与 bf16 的 KL 和拒绝数对比,可据此选择合适的构建。

10月23日周五
  1. Hugging Face · 新模型:abliterated62

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 去对齐版 W4A16 量化权重

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 W4A16 量化版,20.5 GB(bf16 为 65.8 GB),KL 0.0215,用 llm-compressor 0.14.0 以 GPTQ 按 64 分组对称 INT4 量化,激活保持 bf16,面向无 FP4/FP8 支持的 GPU(如 Ampere)。在 DGX Spark 上用 vLLM 0.30.0 测试,4 个温度为 0 的请求均正确且工具调用格式正常;Heretic 评测显示 100 个有害提示拒绝 26 个(bf16 去对齐版为 23),作者称数个拒绝的差异不显著。

    推荐理由:发布方给出了各量化版本相对 bf16 的 KL 散度和拒绝数对比,还注明两次基线运行差异数个拒绝不显著,便于判断精度损失。

  2. Hugging Face Blog44

    Hugging Face 推出 torch-neuronx 模型支持查询 Space:你的模型能否跑在 AWS Trainium 上一查便知

    Hugging Face 推出 torch-neuronx model support Space,可查询 Hub 上热门模型能否在 AWS Trainium 上原生运行,并提供可复现的 run.py 脚本。每条记录包含 Trainium core 分片数、含编译的总运行时间和峰值显存,结果来自公开数据集 aws-neuron/torch-neuronx-model-support,用户可通过 NEFF cache bucket 跳过编译。

  3. Hugging Face · 新模型:abliterated63

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 去对齐版本

    IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated,通过权重差值移植 trohrbaugh 对基座模型 NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 的 abliteration 结果,移除 bottlecapai/ThinkingCap 微调版的拒绝行为,MTP 推测解码头逐位保留,提供 bf16 全量权重(65.8 GB)及 Q8_0 等 GGUF 量化版。

    推荐理由:原文给出权重差值移植方法和关思考模式下的拒绝率与 KL 数据,可据此判断这个去对齐版本实际改动幅度。

  4. Hugging Face · 新模型:uncensored48

    Solstice-AI 发布 Qwen3.8-27B-TURBO-Fable-Cold-Fusion 的 Apple MLX oQ4e 1M 版本

    Solstice-AI 将 DavidAU 的 Qwen3.8-27B-TURBO-Fable-Cold-Fusion 量化打包为 Apple MLX oQ4e 混合精度版本,内置 1,048,576 token 的 YaRN 上下文扩展,内存占用 17.02 GB,可在 16GB/24GB MacBook 上通过 Anvil 或 MLX-LM 运行。官方称在 Claude Code 评测框架下以 9/9 项基准全胜 Claude Opus 4.6 Max,其中 SWE-bench Pro 61.7% 对 53.4%,ARC-C 735、ARC-E 882。Apple Silicon 上的 MTP 多 token 预测带来 1.72×–2.20× 的加速。

  5. Hugging Face · 新模型:abliterated54

    leonsarmiento 发布 Huihui-Qwen3.6-35B-A3B-abliterated 6bit XL MTP MLX 量化版

    leonsarmiento 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated 的 MLX 量化版,采用 BaseQuant_XL 6/8-bit 混合量化并嫁接 MTP 头,总大小 30.60 GB。MTP 头来自 huihui-ai 在去对齐时原样保留的 19 个源张量,经逐张量校验与 Qwen3.6-35B-A3B 原始 MTP 头字节一致。在 oMLX(M4 Pro 48GB)上 mtp_enabled 开启时草稿接受率 89.1%,吞吐 78.6 tok/s,较关闭时的约 58.5 tok/s 提升 28–34%;MTP 加速仅支持 oMLX,LM Studio 只能加载基座模型。

    推荐理由:作者给出 MTP 草稿接受率、吞吐对比和逐张量离线校验数据,读者可据此判断这个 MLX 移植在速度与精度上的取舍。

  6. Hugging Face · 新模型:abliterated38

    Qwen3.8-Flash-Next-Orca-Abliterated-GSQ-RCO-Coder-GGUF 发布

    Qwen3.8-Flash-Next-Orca-Abliterated-GSQ-RCO-Coder-GGUF(58.6 GB)发布,通过移植 orcarouter 的 144 个正交化残差张量,在 256 专家剪枝的 Coder 架构上实现去审查。模型在 llama.cpp、LM Studio、Ollama 中开箱即用;SWE-bench Verified 79.20%、LiveCodeBench v6 87.43% 基准权重保留,代码语料 PPL 仅从 1.2573 升至 1.2749,安全红队测试合规率 100%。

  7. Hugging Face · 新模型:abliterated26

    mradermacher 发布 Sage-A1.5-Heretic-Abliterated-Uncensored-i1-GGUF 量化模型

    mradermacher 在 Hugging Face 上提供 Sage-A1.5-Heretic-Abliterated-Uncensored-i1-GGUF 量化模型,支持以 Q2_K 等量化版本运行。该模型可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或直接推理,也可在 Ollama、Docker、LM Studio、Jan 等工具中使用,并给出了 Pi、Hermes Agent、OpenClaw 等智能体的具体配置方法。

  8. Hugging Face · 新模型:uncensored25

    mradermacher 发布 LFM2.5-24B-A2B-uncensored2-i1-GGUF 量化模型

    mradermacher 在 Hugging Face 上提供 LFM2.5-24B-A2B-uncensored2-i1-GGUF 量化模型,示例以 Q2_K 版本运行。该模型可通过 llama.cpp 在 macOS、Linux、Windows 本地启动 OpenAI 兼容服务器或终端推理,并支持 Ollama、Docker Model Runner、LM Studio、Jan、Pi、Lemonade、Hermes Agent、OpenClaw 等工具加载使用。

  9. Hugging Face · 新模型:uncensored29

    NeoHorse-1-9B-Uncensored GSQ-RCO GGUF 量化版发布,适配 llama.cpp 本地推理

    abenzerps 基于 TokenRhythm/NeoHorse-1-9B 发布 GSQ-RCO 混合精度 GGUF 量化版本,采用 RCO 保留全部 48 个关键 SSM 参数为 BF16,并用 GSQ 按 Hessian 灵敏度校准逐层优化精度。提供 IQ2_XS 到 IQ4_XS 共 5 档文件,推荐 IQ3_M(3.75 bpw、4.20 GB)。配合 4-bit KV cache 可在 8GB 显存的消费级 GPU 上以约 6 GB VRAM 运行 131k 上下文,遵循 Apache-2.0 License。

  10. Hugging Face · 新模型:abliterated66

    dima6312 发布 Flint 40B-A2.5B 去对齐版,MITRE 拒绝率从 15% 降到 0%

    dima6312 在 Hugging Face 发布 RecursiveSI Flint 40B-A2.5B 的 abliterated 去对齐版本,用 abliterix 移除拒绝方向,Optuna 调参。留出集 MITRE 拒绝率从 15% 降到 0%(n=100,Q8_0),HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,无害提示上 KL 散度 0.0146。提供 BF16、GGUF(Q8_0 到 Q3_K_M)、NVIDIA Blackwell NVFP4 和 Apple silicon MLX 4-bit 多种构建,本仓库为 Rec 运行时 4-bit 版约 21 GB,需 llama.cpp b11827 或更高版本。

    同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》

  11. Hugging Face · 新模型:uncensored39

    Qwen-Image-2.1-Uncensored 量化版本发布:支持 GGUF、Safetensors 与 MLX 格式本地图像生成

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成。版本包含 BF16(14.23 GB)至 Q4_K_M(4.60 GB)等多种量化档位,推荐 Q4_K_M 以平衡体积与质量;MLX 格式针对 Apple Silicon 优化,并随附 qwen3vl_8b 文本编码器与 VAE 文件供 ComfyUI 使用。该版本无内置安全检查或内容过滤,可直接生成 NSFW 等敏感图像。

  12. Hugging Face · 新模型:abliterated63

    dima6312 发布 Flint-40B-A2.5B 去对齐 NVFP4 GGUF 版本

    dima6312 在 Hugging Face 发布了 RecursiveSI Flint 40B-A2.5B 的 abliterated 版本 NVFP4 GGUF,移除拒绝方向,面向安全研究与编码工作,需 llama.cpp b11827 及以上在 NVIDIA Blackwell GPU 上运行,权重文件 22.9 GB。对照测试显示 MITRE 拒绝率从 22% 降至 0%,Meta CyberSecEval 拒绝检查从 18/100 降至 1/100,GSM8K 与 HumanEval+ 无显著下降,pp512 与 tg128 速度差异在 3% 以内;模型基于 Apache 2.0 许可衍生自 RecursiveSI 权重,去对齐只降低拒绝、不增加知识。

    同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》

  13. Hugging Face · 新模型:uncensored28

    Qwen3.8-Flash-Next-Uncensored Q4_K_XL-Gufo 量化版发布

    Hugging Face 上线 Qwen3.8-Flash-Next-Uncensored 的 Q4_K_XL-Gufo 重量化版本,共 3 个分片约 103.5 GiB,升级 716 个张量 dtype 并修复 export bug,使 gufo 引擎可在 AMD Strix Halo(gfx1151)上加载,支持 262 144 原生上下文。无新微调,权重与原 Q4_K_S 相同;许可证按上游 Qwen Community License 1.0 分发,而非元数据标注的 apache-2.0。

  14. Hugging Face · 新模型:uncensored40

    m672/gemma-4-31b-it-uncensored-fp8 发布:FP8 块量化版 gemma-4-31B 无审查模型

    m672 发布 gemma-4-31B-it-uncensored-heretic 的 FP8 块量化版本,模型体积约 31.5 GB,较 BF16 的约 62 GB 减半。与 RedHatAI/gemma-4-31B-it-FP8-block 对比,GSM8k-Platinum 97.68%、MMLU-CoT 89.97%、MMLU-Pro 84.52%,性能差距在 -0.14 至 -0.73 之间。量化采用 llmcompressor 的 FP8_BLOCK 方案,输出 compressed-tensors 格式,可原生用于 vLLM,聊天模板默认 enable_thinking 为 true。

  15. Hugging Face · 新模型:uncensored65

    dealignai 发布 GLM-5.3-Flash 无对齐 FP8 权重,HarmBench-320 拒绝率 0%

    dealignai 以 CRACK 方法在权重层面直接移除 GLM-5.3-Flash 的拒绝行为,发布 FP8 量化版(320B 总参数、每 token 激活 18B),HarmBench-320 全部 320 项 0 拒绝,MMLU 87.33% 高于基线 86.74%。该版本在 reasoning-off 和 max 档完全无对齐,low 档保留部分拒绝;H200 上原生 FP8 解码 163 tok/s,MTP 投机解码 211 tok/s。作者还给出 vLLM/SGLang 部署注意事项:reasoning_effort 只接受 low 和 high,max 档需 max_tokens ≥ 6000,视频 fps 须低于片段帧率否则引擎崩溃,并提醒重新下载 2026-08-28 修复后的文件。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  16. Hugging Face · 新模型:abliterated66

    dima6312 发布 Flint-40B-A2.5B-abliterated 去拒绝版本

    dima6312 在 Hugging Face 发布 Flint-40B-A2.5B-abliterated,移除了 RecursiveSI Flint 40B-A2.5B 的拒绝方向,面向漏洞分析、恶意软件分诊、检测工程、CTF 和红队工具等安全工作。消融用 abliterix 从 attention 输出与 shared-expert、routed-expert 投影中移除拒绝方向,Optuna 经 50 轮试验选择强度。

    同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》

  17. Hugging Face · 新模型:uncensored59

    npario 发布 gemma-4-31B 的 UDmerge 去对齐 GGUF 量化版本

    npario 在 Hugging Face 发布 gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF,将 llmfan46 的 abliterated 张量合并到 Unsloth 无损 Q4_0 量化中,称可获得比朴素消融量化更好的准确率和拒绝率。提供两个变体,UDmerge-Q4_K_XL 将 attn_output.weight(blk.10 至 blk.35)量化为 Q4_0,UDmerge-Q4_K_XXL 量化为 Q8_0,后者拒绝率 20%,与 QAT BF16 持平,且基本不影响 TG 速度;实测 QAT Q4_0 拒绝率为 32%。

    推荐理由:作者用统一的 PPL、KLD、拒绝率和 MMLU 数据对比了合并版与朴素消融量化的差异,Q8_0 变体把拒绝率压回 20%。

  18. Hugging Face Blog70

    Microsoft 与 Hugging Face 发布 ThinkingBox-Training:用数据库评分作 RL 奖励后训练 Agent

    Microsoft 与 Hugging Face 发布 ThinkingBox-Training,在 GitHub 开源了将数据库终态可执行检查转化为 RL 奖励的后训练流程。用离线策略相对难度筛选出 187 个训练任务,对 Qwen3.8-27B 做 50 步 GRPO 后,ThinkingBox-Bench 507 个任务中每次都成功的任务从 38(7.50%)升至 107(21.10%),pass@1 从 51.70% 升至 60.78%,pass@20 略降 7 个任务;单个可靠任务成本从 $24.36 降至 $8.00。

    推荐理由:把数据库终态检查直接用作 RL 奖励的完整训练配方,任务筛选方法和成本变化都给了数据,可迁移到有状态 Agent 训练。

  19. Hugging Face · 新模型:abliterated29

    Huihui-Qwen3.6-35B-A3B-abliterated 的 Orinfer E8P Q4A8 量化版上线 Hugging Face

    基于 huihui-ai 的 abliterated Qwen3.6-35B-A3B 模型、面向 Jetson AGX Orin 64GB 的 Orinfer E8P Q4A8 量化版在 Hugging Face 发布,权重共 35,951,822,704 参数、约 4.209 bits/权重,上下文 262,144 tokens,需 Orinfer v0.2.1 运行。验证显示单次请求 65.83 tokens/s,10/11 自动评分任务通过,权重采用 Apache-2.0 许可。

  20. Hugging Face · 趋势模型65

    KRAFTON 发布 Raon-1 mini preview 开源模型,30B-A4B MoE 架构,Apache 2.0 开源

    KRAFTON 从零训练的 Raon-1 mini preview 发布,为 30B-A4B(28.8B 总参数、每 token 激活 4.3B)MoE 模型,采用 Raon Delta Attention 与 Raon-mHC 的混合注意力架构,原生支持 262,144 token 上下文,以 Apache 2.0 许可开源。主打韩语对话与 Agent 任务,支持 Hermes Agent、Pi 和 OpenCode 工具调用;官方基准显示其在 IFBench、Chatbot Korean 等项目领先对比 MoE 模型。

    推荐理由:模型卡给出了与其他 MoE 和稠密模型的基准对比、架构细节和完整本地部署方案,可据此评估其真实定位。

  21. Hugging Face · 新模型:uncensored20

    MishraNepali/Lily-Cybersecurity-7B-Uncensored-GGUF_Q5_K_M 量化版发布

    Hugging Face 用户 MishraNepali 发布 Lily-Cybersecurity-7B-Uncensored 的 GGUF Q5_K_M 重新量化版本,体积从 13.5GB 降至 4.07GB,可在 16GB 内存的 CPU 上运行,也可在 Google Colab 使用。该模型源自 segolilylabs/Lily-Cybersecurity-7B-v0.2(Apache 2.0 协议),中间版本由 NiroshanDH 量化并做 abliteration 处理,推荐上下文窗口 4096 tokens,量化版可能出现模型幻觉。

  22. Hugging Face · 新模型:abliterated22

    TristanUK 发布 onyx-qwen2.5-7b-abliterated-lora-GGUF 量化模型

    TristanUK 在 Hugging Face 发布 abliterated 版 Qwen2.5 7B 的 GGUF 量化模型(Q4_K_M),提供去审查变体供本地推理使用。该模型可通过 llama.cpp 直接运行,支持 llama serve 启动 OpenAI 兼容本地服务器或命令行推理,也提供 Ollama(ollama run)、Docker Model Runner、Lemonade 等拉取运行方式。此外可接入 Pi、Hermes Agent、OpenClaw 等本地 Agent 工具,作为默认模型使用。

  23. Hugging Face · 新模型:uncensored36

    Qwen3.8-Flash-Next-Uncensored Q5_K_S Splash 重打包版发布

    tegsvenson 发布 Qwen3.8-Flash-Next-Uncensored 的 Q5_K_S 重打包 GGUF,将 96 个 hyper-connection inject 张量改为 F32 存储,使其可被 Splash 1.4.0 加载,其余 1,128 个张量与 orcarouter 原版逐字节一致,体积仅增加 12.42 MiB。该版本移除安全对齐(abliterated),在 M4 Max 128 GB 的 MacBook Pro 上经 oMLX 0.7.2 测试,可加载完整 262,144 token 上下文,冒烟测试输出速度 98.4 tok/s。

10月22日周四
  1. Hugging Face · 新模型:abliterated25

    Koshkasa 发布 GLM 4.5 Air 的 50% REAP 剪枝版 GGUF(abliterated lossy)

    Hugging Face 上架了基于 huihui 解除限制版 GLM 4.5 Air 制作的 50% REAP 剪枝模型,由 concedo 上传,格式为 GGUF、BF16。相比此前失败尝试,校准数据集被泛化(仍保留 60%/40% 创意偏置),激活记录长度提升到 8192(此前 3072),并用稀疏观察器避免物化整个 [128, dim, tok] 块。模型目前未经测试,可能无法加载或输出乱码。

  2. Hugging Face · 新模型:abliterated26

    Huihui-GLM-4.5-Air-abliterated-lossy-REAP_50-safetensors 上架 Hugging Face

    Hugging Face 上架了基于 huihui 去限制版 GLM 4.5 Air 制作的 50% REAP 剪枝模型,由 concedo 上传。相比此前尝试,校准数据集被泛化(仍保留 60%/40% 创作偏向)并按源数据重新封装,激活记录长度从 3072 提升到 8192,并采用稀疏 observer 避免物化整个 [128, dim, tok] 块。该模型目前未经测试,可能无法加载、产生乱码或无法量化。

  3. Hugging Face · 新模型:abliterated22

    Koshkasa 发布 GLM 4.5 Air 的 37.5% REAP 剪枝版本(abliterated lossy)

    Hugging Face 上由 concedo 上传的 GLM 4.5 Air abliterated 版本(huihui 去限制版)的 37.5% REAP 剪枝模型。相比此前失败的尝试,校准数据集被泛化(保留 60% creative bias)并按源基准重新打包,激活记录长度从 3072 提高到 8192,并使用稀疏 observer 避免物化整个 [128, dim, tok] 块。模型目前未经测试,可能无法加载或输出乱码。

  4. Hugging Face · 新模型:uncensored58

    Qwen3.8-27B TURBO 微调版发布 GGUF 权重,ARC-C 达 735 并大幅削减思考 token

    DavidAU 团队发布基于 Qwen3.8-27B 的多阶段微调模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供常规与 MTP 两种 NEO imatrix GGUF 量化。8bit 下 ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 591);思考 token 缩减至原版的 1/2 到 1/10。去审查用 Heretic v1.2.0+ 的 ARA 方法,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》