新闻、仓库与研究，按时间排列。
mincon 在 Hugging Face 发布 Qwen3.8-27B 的 RVN 双重精炼 ARA 消融版本（GGUF），在 trohrbaugh 的 heretic-ara 基础上追加两次全权重 ARA 处理。独立实测显示有害提示词拒绝率从 3/100 降至 0–1/100，相对 base 模型的 KL 损伤从 0.0535 降至 0.0085；仓库提供 multilingual、MTP、vision 等 GGUF 文件家族并附各量化档的显存建议与 llama.cpp 推理速度实测。
codavidgarcia 发布 Qwen3.8-27B-Uncensored-Heretic 的 UD GGUF 量化，采用 Unsloth 逐张量配方，MTP 头（blk.64）在各档保持 q6_K/q8_0，使模型连同原生 MTP 完整装入 12/16/24 GB 显卡。实测 16 GB UD-IQ4_XS 的 KLD 比可容纳 MTP 的同类量化低 2.4 倍，RTX 4080 上开启 MTP 后代码生成 55 tok/s，约为关闭时的 1.9 倍；拒绝率数据来自 llmfan46 的 Heretic v2（3/100 拒绝），本仓库未复测。
推荐理由：作者对每档量化都实测了 KLD、top-1 命中率和解码速度，并与同权重其他量化逐项对比，数据可直接用于选型。
mradermacher 在 Hugging Face 上提供 Ostrich-27B-261008-Qwen3.8-Abliterated-i1-GGUF 模型，支持 Q2_K 等量化格式。用户可通过 llama.cpp 本地部署，兼容 LM Studio、Ollama、Pi、Docker Model Runner、Lemonade 等工具，并提供 OpenAI 兼容的本地服务器。
AtomicChat 发布的 Qwen-Image-2.1-Turbo-Uncensored-GGUF 现已上架 Hugging Face。该模型提供 Q2_K 量化版本，可通过 llama.cpp 一条命令启动本地 OpenAI 兼容服务器并带 Web UI，示例命令为 `llama serve -hf AtomicChat/Qwen-Image-2.1-Turbo-Uncensored-GGUF:Q2_K`。页面同时给出在 Ollama、Docker、LM Studio、Jan、Pi、Lemonade、Hermes Agent、OpenClaw 等工具中的接入方法。
alexwkleung 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本，用 Heretic 消融 662 个 tensor，拒绝率在 enable_thinking 为 false 时从 43/44 降至 14/44，GSM8K 89/100 无明显回归。作者还发现 Heretic 1.4 在 Transformers 5 的融合 MoE 模块上会静默跳过专家层，此构建将融合专家拆回独立 Linear 后再消融，提供 Q4_K_M 到 Q8_0 共四档量化文件与 sha256 校验值。
推荐理由：卡片给出消融修改的 tensor 清单和拒绝率前后对照，还包括 Heretic 在 MoE 融合模块上静默失败的具体坑与修复方法。
AtomicChat 在 Hugging Face 上发布 Qwen-Image-2.1-Turbo-Abliterated-Uncensored-GGUF 模型，提供 Q4_K_M 量化版本。文档给出 llama.cpp、Ollama、Docker Model Runner、Lemonade 等多种本地运行方式，包括启动 OpenAI 兼容服务器和终端直接推理的命令，并覆盖 Pi、Hermes Agent、OpenClaw 等工具的配置方法。
huihui-ai 基于 microsoft/Phi-4-multimodal-instruct 制作的去审查版 Phi-4-multimodal-instruct-abliterated 已上传 Hugging Face，采用 abliteration 技术移除模型的拒绝行为，且仅处理了文本部分、未处理图像部分。模型可用 Hugging Face transformers 库加载，支持 flash_attention_2 与 bfloat16。
IsValorum 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-MTP 的 VAL-APEX-I MiniPlus V3 GGUF 量化版，文件大小 14.28 GB，whole-file BPW 为 3.93，WikiText-2 PPL 为 6.6669，比 GSQ-RCO IQ3_S 基线降低 5.70%。该模型基于 UkisAI 的 Swift-1.5 推理微调，内置 Multi-Token Prediction 投机解码头（blk.64.*，844M 参数），可在 llama.cpp 中直接加速推理，无需外部 draft 模型；同时保留高精度视觉编码器（mmproj-Q8_0.gguf），并维持法、西、德、中多语言语法完整性。
UkisAI 的 Swift-1.5-Qwen3.8-27B-Uncensored-MTP 推出 VAL-APEX-I NanoPlus V3 GGUF 量化版，文件仅 11.08 GB、整文件 BPW 2.85，WikiText-2 PPL 为 6.9102，比基线 GSQ-RCO IQ3_S 低 2.26%。模型基于 Qwen3.8-27B 的 27B MoE 推理微调，内置 Multi-Token Prediction 头（blk.64.*，15 个 tensors）可在 llama.cpp 中直接投机解码，并保留 mmproj-Q8_0.gguf 视觉编码器与法、西、德、中多语言语法完整性。
3hs4n 在 Hugging Face 发布 Ternary Bonsai 2 27B Uncensored Heretic v2 的紧凑版 MLX 权重，将 27 个视觉 MLP expansion 层从 FP16 量化为原生 MLX affine 2-bit/group-128，权重文件从 8.60 GB 降至 8.37 GB，节省约 230 MB（2.68%）。全部 2,057 个语言张量逐字节不变，思考模板与 tool-call 格式保留，上下文上限 262,144 tokens。已在 LM Studio 0.4.26+4 验证通过，但推理质量未经 benchmark，视觉量化为有损。
LiquidAI 在 Hugging Face 上发布 LFM2.5-24B-A2B 的 GGUF 量化版本，该系列是面向边缘 AI 与端侧部署的混合架构模型。仓库中的 Q4_0 版本是量化感知蒸馏（QAD）checkpoint，训练用于恢复 Q4_0 量化损失的精度；各 GGUF 内置 general.sampling.* 元数据，llama.cpp 默认应用推荐采样参数（--temp 0.1 --top-k 50 --repeat-penalty 1.05）。
推荐理由：官方说明 Q4_0 版本采用量化感知蒸馏来恢复精度损失，并给出 llama.cpp 的推荐采样参数，便于本地部署复现。
ajgazin 在 Hugging Face 上发布 Swift-1.5-Qwen3.8-27B-Uncensored 的 NInfer NVFP4 量化版本（swift15_qwen3_8_27b_uncensored_nvfp4.ninfer），面向 Blackwell（sm_120a）NInfer 引擎。文件包含 text、vision、MTP 和 DFlash2 组件，64 层经校准的 NVFP4 MLP，其余为 FP8，单文件约 22.78 GB。在 32 GB GPU 上驻留权重约 18.1 GiB（无投机解码）至 20.5 GiB（DFlash2），支持 --max-context 32768，采用 Swift Open License v1.0 许可。
DevelopingDad 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored-NVFP4 的 DGX Spark 部署包，封装 OrcaRouter 现有量化权重， checkpoint 约 183.5 GB，未做微调或重量化。包内含自动挂载运行时补丁的启动器，基于 ARM64 vLLM 0.30.0 提供 OpenAI 兼容 API，最大上下文 131,072 tokens，需 DGX Spark/GB10 与 128 GB 统一内存。K1b 配置实测单客户端 prose 吞吐 37.29 tok/s，较此前配置提升 48.9%，52/52 请求全部完成、无 OOM。
Hugging Face 上架 GGUF 格式模型 Swift-1.5-Qwen3.8-27B-Uncensored-MTP-VAL-APEX-I-MiniPlus-V2.1。该模型暂无 model card，参数规模标注为 0.5B，架构为 clip，尚未被任何 Inference Provider 部署。
sathya801 在 Hugging Face 发布 NeuralDaredevil-8B-abliterated 的 Q5_K_M GGUF 量化版本，使用 llama.cpp 的 ggml.ai GGUF-my-repo 空间从 mlabonne 的原模型转换而来。用户可通过 llama-cli 或 llama-server 直接加载该模型，也可在 Llama.cpp 中自行编译并推理，server 模式示例使用 -c 2048 上下文。模型细节可参考原始模型卡。
Hugging Face 上线 Ternary Bonsai 2 27B Uncensored Heretic v2 的社区 MLX 2-bit 转换版，Safetensors 权重约 8.60 GB（含视觉塔），配置上下文上限 262,144 tokens，采用 Apache 2.0 许可。权重来自 Heretic v2 PQ2_0 模型，无损重打包为 affine 2-bit/group-128 存储且未做额外量化或训练。该模型需在 Apple Silicon Mac 上用 mlx-vlm 0.7.2 及支持 prism_hadamard_qwen35 架构的加载器运行，并提供 OpenAI 兼容 API。
arXiv 论文提出 ReplaySSM，将 SSM 状态表示为检查点加近期 SSM 输入缓冲区，跳过大部分步骤的状态写入，使混合模型的主要状态内存流量约减半。已在 vLLM 中为 Mamba-2 和 Gated DeltaNet 实现，batch size 256 下较调优后的 vLLM 基线加速 1.20–1.47×，在两个 120B 级模型上吞吐量约为 vLLM 投机解码的 1.8×，并支持低成本投机回滚与分离精度的检查点以降低精度损失。
研究者提出 DualQuant，一种双尺度、免校准的后训练量化框架，通过最小化权重重建 MSE 得到逐通道激活 rescaling，无需校准数据即可完成 W4A4 量化，并首次正式支持 MX 与 NV block 格式。在 Llama 和 Qwen 模型的 WikiText-2、C4 及零样本任务上，其精度达到或超过基于校准的 SmoothQuant。Llama-3.1-8B 在 RTX 4090 上的实测推理相比 BF16 最高实现 2.61x 内存节省和 2.46x 吞吐加速。
OpenIntelligenceNet/Granite-4.1-3B-Uncensored-GGUF 模型在 Hugging Face 发布，提供 GGUF 量化版本（如 Q4_K_M）。页面给出通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具本地运行该模型的安装与推理命令，也可接入 Pi、Hermes Agent、OpenClaw 等 Agent，支持启动 OpenAI 兼容的本地服务器。
Kujira 在 Hugging Face 发布 Underdog-Saluki-27B-1.0-MTP 的 abliterated GGUF 版，仅改动第 35–36 层的 4 个张量，其余 862 个张量与原文件字节级一致，未做训练。有害提示词拒绝率从 99% 降到 1%（开思考时 78% 到 2%），英语困惑度上升 1.6%、日语上升 1.8%，速度和显存与 MTP 版相同，约 58–62 tok/s，12 GB 显卡可用 40K 上下文。消融方法未公开。
推荐理由：原文列出消融改动的具体张量、拒绝率前后对比和困惑度变化，读者可以评估这个去对齐版本的代价。
HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无审查量化版，标注 0/465 次拒绝，保留文本、推理、Agent 和图像视频能力，许可证沿用 Apache 2.0。附带自研 FastMTP 32K 草稿加速边车与 llama.cpp 补丁，在 RTX PRO 6000 Blackwell 上 Q8_K_P 达到对关闭 MTP 最高 3.02x 文档 TG 和 1.93x 推理 TG，并给出各档位实测速度与签名校验清单。
Hugging Face 用户 robertbschuette 发布了 Qwen-Image-2.1 的 Uncensored GGUF 量化版本，提供从 BF16（14.23 GB）到 Q4_0（4.15 GB）等多种量化文件，推荐 Q4_K_M（4.60 GB）作为体积与质量的最佳平衡。该版本移除内置安全检查与内容过滤，可直接生成 NSFW 等敏感图像。模型可在 ComfyUI 中配合 qwen3vl_8b 文本编码器与 VAE 使用，文本编码器可卸载至系统内存，节省 9–17 GB 显存。
Hugging Face 上架了 NeuralNet-Hub 发布的 Qwen3.8-27B-Uncensored-NVFP4 模型仓库。该模型 README 为空，未提供任何说明；目前尚无下载量统计，也没有被任何 Inference Provider 部署提供推理服务。
dima6312 在 Hugging Face 上发布 ajgazin 的 Swift-1.5-Qwen3.8-27B Uncensored（UkisAI Swift 1.5 的 abliterated 版）的 MLX oQ4e 量化，体积 17.0 GB、4.9 bits per weight，仅做量化未改其他内容，并保留 MTP 头以支持 oMLX 中的自推测解码。在 M4 Pro 48GB 上实测：编码任务 21/24、工具调用 27/30、100 条提示词拒绝 11 次（原模型为 97 次），解码 39.8 tok/s，MTP 接受率 87.5%；模型沿用 Swift Open License v1.0，年收入超 100 万美元的组织商用需 UkisAI 的企业授权。
推荐理由：作者用统一的拒绝率测试对比了量化版与原模型，还保留了 MTP 头并给出解码速度，量化质量有实测数据可查。
Huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版 GGUF 量化模型，多次更新新增 UD、UD-DW、GSQ-RCO、Ternary、Swift 等系列，其中部分版本仅消融第 22 至 52 层（0 起始索引）。模型提供 Q2_K_L 至 Q8_0_L 等量化格式，支持上下文长度 262144，可通过最新版 ollama（huihui_ai/Qwen3.8-abliterated）或 llama.cpp 运行。官方提示安全过滤已显著降低，建议仅用于研究和测试环境。
muterornament/Huihui-GLM-5.3-Flash-abliterated-GGUF 现已在 Hugging Face 上提供，是一个图像-文本到文本的 abliterated GGUF 模型，支持 UD-Q4_K_XL 等量化版本。用户可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker、LM Studio 等多种工具运行，llama.cpp 和 vLLM/SGLang 均提供 OpenAI 兼容 API，支持文本与图像输入。
dealignai 以 CRACK 方法发布 GLM-5.3 (753B, ~18B 激活) 的权重级去审查版本 GLM-5.3-ABLITERATED-NVFP4，宣称不用微调、LoRA 或越狱提示，直接在张量中移除拒绝行为，面向授权渗透测试与安全研究。HarmBench 实测 high/max 模式下 156 条提示 0 拒绝，off 模式拒绝率 7.3%（多为版权类）；MMLU 84.11%，较 base 的 85.58% 降约 1.5pp。模型给出 vLLM 部署命令，NVFP4 版在 GB10 上 KV 池达 35 GiB/rank，可支撑 TP8 下 512K 实用上下文。
推荐理由：原文给出 HarmBench 拒绝率和 MMLU 前后对比数据，读者可以据此判断这个权重级去对齐版本的实际效果与能力损失。
muterornament 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 3.0bpw 量化版本，上游是 zai-org/GLM-5.3 的权重编辑（无微调）变体，模型为 GlmMoeDsaForCausalLM 架构，总参数 753B，256 个路由专家（激活 8 个）加 1 个共享专家，体积 273 GiB。作者用 wikitext-2 给出量化对 FP8 源的 KL 散度与困惑度对比（困惑度 3.440 对 3.302），并在 tau2-bench 上与 Z.ai FP8 原版对比，airline 和 retail 两域差异均无统计显著性。
gopiprakan 发布了 GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本（平均 3.04 bpw，273 GiB），上游是 dealignai 对 zai-org/GLM-5.3 做权重编辑得到的无微调变体，编辑记录保存在 CRACK_SURVEY. 同目录的 CRACK_SURGERY.。量化版在 wikitext-2 上相对 FP8 源的 KL 散度为 0.089/0.097，perplexity 3.440 对 3.302；tau2-bench 实测中 airline 和 retail 两域与原版 GLM-5.3 FP8 的差异分别为 -0.070 和 -0.022，样本量下不具统计显著性。
hotdogs 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-PQ2_0-MTP，基于 BoldingBuilds 的去拒绝 v2 版，以 0.4 scale 合并 Swift 去对齐与 ThinkingCap 省 token 推理两个 SVD-LoRA。模型采用 PQ2_0 三元量化（约2.13 bits/weight），27.3B 参数仅约 7.6 GB，支持 262,144 token 上下文、视觉输入和 MTP 投机解码。仅能通过 PrismML 的 llama.cpp fork 加载，主线程 llama.cpp、Ollama 和 LM Studio 均不支持。
推荐理由：原文给出abliteration的张数、MMLU损失和各LoRA保留能量，合并构建的局限与适用范围都写得很透明。
mradermacher 在 Hugging Face 发布 Ostrich-27B-261008-Qwen3.8-Abliterated 的静态 GGUF 量化版本。提供多种量化格式，其中 Q4_K_S 为 15.9 GB、速度快且被推荐，另含 mmproj-Q8_0（0.7 GB）与 mmproj-f16（1.0 GB）多模态补充文件；weighted/imatrix 量化暂未提供，用户可通过 Community Discussion 申请。
RAMP（Recurrent Adaptive Mixed Precision）是一种针对循环深度语言模型长上下文 prefill 的自适应混合精度方法。研究发现循环深度早期引入的量化误差会被后续更多循环步骤衰减，因此对低精度计算前置、末端恢复高精度。在最长 4K 上下文上，RAMP 在 NVIDIA H100 上实现最高 1.16x 端到端首次 prefill 加速，延迟降低 13.9%，同时保持接近全精度的质量。
hotdogs 在 Hugging Face 上发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-pq2_0-gguf，提供 Q2_0 量化格式的 GGUF 权重。该模型可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或直接推理，也支持 Docker、Ollama、LM Studio、Jan、Pi、Lemonade、Hermes Agent、OpenClaw 等工具加载运行。
groxaxo 在 Hugging Face 发布 ThinkingCap-Qwen3.8-27B-abliterated 的 UD-Q4_K_XL GGUF 量化版，共 866 个张量，直接从 BF16 checkpoint 转换并采用 Unsloth 的张量布局与 imatrix。附带独立 MTP draft、视觉 mmproj 和 chat_template.jinja，支持 llama.cpp 的 --spec-type draft-mtp 投机解码、enable_thinking 以及 low/medium/xhigh 推理力度。模型采用 PolyForm Small Business License 1.0.0，仓库声明不提供新的质量基准。
Maximilian228 在 Hugging Face 发布了 huihui-ai 消融版 Qwen3.8-Flash-Next 的 NVFP4 量化包，全部路由专家用 GPTQ（而非 RTN）从 BF16 检查点量化，可在单张 RTX 20-50 显卡（12 GB 以上显存、64 GB 以上内存）上通过 Strata NVFP4 运行 125B 混合 MoE。在留出 token 上，GPTQ 的加权相对误差为 RTN 的 33.5%，48 层全部优于 RTN；实测 182.8 tok/s 解码、2810 tok/s prefill，解码成本与 RTN 持平。
推荐理由：原文给出完整的 GPTQ 量化方法和 48 层误差对比数据，读者可以据此评估 NVFP4 消融模型的精度与部署成本。
Maximilian228 在 Hugging Face 发布 OrcaRouter Qwen3.8-Flash-Next-Uncensored 的 NVFP4 (GPTQ) 量化包，供 Strata NVFP4 引擎在单张 12 GB 以上 VRAM 的 RTX 20-50 显卡加 64 GB 内存上运行这个 125B 混合 MoE 模型。模型为 abliterated 去对齐微调，权重中移除了拒绝方向，不拒绝有害请求。作者用 GPTQ 从 BF16 checkpoint 重量化全部路由专家， held-out 误差为 ModelOpt RTN 量化的 33.4%，48 层全部低于 RTN，解码速度与 ModelOpt 包基本持平（约 185.6 对 191.6 tok/s）。
推荐理由：作者给出完整的 GPTQ 重量化方法和逐层误差对比，NVFP4 去对齐版相对 ModelOpt 量化把误差降到约三分之一。
SparseDecoding 是一种面向 LLM 解码阶段的剪枝框架，通过用密集模型自回归生成时（排除 prefill）收集的激活构建校准矩阵，解决自然序列与生成序列之间的分布偏移问题，并配合带 bitmask 索引的优化 N:M 稀疏矩阵-向量核。在 Llama-3.1-8B、Llama-3.3-70B、Qwen3-14B/32B 上，该方法在长文本生成基准上持续优于固定文本校准，在 A100 GPU 上实现最高 1.48x 的端到端解码加速。
Underdog 在 Hugging Face 发布 Underdog-Saluki-27B-1.0，基于 Qwen3.8-27B 的 GGUF 量化版，仅 7.89GB（全尺寸 54GB），可在标准 llama.cpp 上运行。Underdog Bench 上工具调用 88/120，超过全尺寸模型的 84；并行工具调用 42 对 35，9 项基准平均保留 96%。竞赛数学保留约 82% 到 85%，弱点在字母级指令谜题，部分并行调用回复有小格式错误；可选 0.6 到 0.9GB 的 mmproj 文件添加视觉能力，Apache 2.0 许可。
推荐理由：原文给出与全尺寸模型同 harness 的工具调用和基准对比数据，读者可以据此判断这个 8GB 量化版本到底保住了多少能力。
immiq 发布 huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 Orinfer E8P Q2A8 量化部署包，专为 Jetson AGX Orin 64GB 设计，源模型通过 abliteration 减少拒答。模型支持文本、多图、thinking、prefix caching 和原生 MTP（最多 7 drafts），上下文容量 262,144 tokens，只读权重约 51.4 GB。在 Jetson AGX Orin 64GB 实测中，文本预填充 8,192 tokens 达 809 tokens/s，Python 代码生成解码速度 53.84 tokens/s，权重采用 Qwen Community License 1.0 许可。
研究者提出 ReCal（Recovery-Aware Calibration），一种即插即用的剪枝前校准调整方法，用于提升剪枝推理模型在线策略蒸馏（OPD）的恢复效果。ReCal 利用未剪枝 teacher 与剪枝 probe 之间的 forward KL，识别被剪枝破坏的 teacher 支持预测并重加权校准统计量。在多个模型和剪枝方法上，ReCal 在 OPD 后数学推理最高带来 16.7 个百分点的 AIME 提升，多数代码生成对比中也有改进。