新闻、仓库与研究，按时间排列。
virtualdmns 的 SmolLM3-3B-Heretic-Uncensored（用 Heretic 移除拒绝行为的 SmolLM3-3B）现提供 GGUF 格式，含 Q8_0（约 3.28 GB）和 Q4_K_M（约 1.92 GB）两种量化，chat template 已嵌入文件并支持 /think 与 /no_think 模式。经 llama.cpp 加载测试可正常生成、无拒绝行为，源权重重新评测显示拒绝率 3/100（原版基线 82/100），KL 散度 0.0684。可通过 llama.cpp、LM Studio 或 Ollama 运行，采用 Apache-2.0 许可。
Hugging Face 上架 Rasist228 发布的 Qwen2.5-7B-Instruct-abliterated-v2 的 Q4_K_M GGUF 量化版本。该模型可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种工具加载运行，llama.cpp 与 vLLM、SGLang 均支持启动 OpenAI 兼容 API 的本地服务器，也可在 LM Studio、Jan、Pi、Hermes Agent 等应用中使用。
一项硬件-软件协同设计方法利用 systolic array 累加器中时序稳健位范围随电压-频率工作点变化的特性，提出累加感知训练，结合混合精度量化与非结构化剪枝，辅以 MSB 掩蔽、细粒度时钟门控和逐层动态频率缩放。在 2nm 工艺节点的低电压前沿运行时，该后布局架构相对标称电压实现节能 39%、energy-delay product 提升 23%，精度损失保持在 1% 以内。论文已被 ICCAD '26 接收。
cbert33 在 Hugging Face 发布 Flint-40B-A2.5B Abliterated 的 FP8 校准量化版本，基于 dima6312/Flint-40B-A2.5B-abliterated，采用 LLM Compressor FP8_DYNAMIC 格式，含 36,439 个量化权重张量、295 个 BF16 保护张量和 98 个校准 BF16 KV scales（覆盖 49 个注意力层）。校准使用 HuggingFaceH4/ultrachat_200k 的 train_sft 前 512 行（543,281 tokens）。该模型仅限研究用途，未经生产验证，端到端生成质量与 benchmark 未测试。
Hugging Face 上发布 Flint-40B-A2.5B 的 abliterated 去审查版 FP8 量化模型，采用 LLM Compressor FP8_DYNAMIC 格式，保留 295 个 BF16 保护张量，并用 98 个校准 BF16 KV scale 覆盖全部 49 个注意力层。校准基于 HuggingFaceH4/ultrachat_200k 数据集 train_sft 前 512 行样本（共 543,281 token），上游 abliteration 已减少拒答行为，输出仍应视为不可信。该模型仅供研究用途，GPU 推理与 benchmark 尚未验证。
Adolphsson 在 Hugging Face 发布 GLM-5.3-Flash 去审查版的 Maya-L GGUF 量化，基于 dealignai 的 CRACK 去审查 FP8 检查点（原模型 zai-org/GLM-5.3-Flash），仅做量化，保留 MTP 草稿块与视觉 mmproj 文件，上下文 1M tokens，总量 156.3 GB，分 4 个分片，MIT 许可。单张 RTX 5090 实测 1M 上下文 28.5 tok/s，256K 上下文开 MTP 提速约 16%；该版本仅通过功能验证，尚未跑 MMLU 等基准。
Abiray 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的去审查（abliterated）GGUF 版本，基于 ISTA-DASLab 的 IQ2_XXS 量化，将 86 个去审查残差写入张量直接烘焙进权重，运行时无需 LoRA。体积仅增加 0.34 GB（138.58 GB vs 138.24 GB），28 个 1-bit IQ1_M GSQ 专家层 100% 保留，KL 散度仅 0.000002 nats，Top-5 一致率 100%。需搭配 ISTA-DASLab 的 110.60 GB Engram 查找文件，可用 Strata 在单张 12 GB+ NVIDIA GPU 上运行。
Arnav005 在 Hugging Face 上架 Qwen3-4B-Uncensored-Q4_K_M.GGUF，基于 Qwen/Qwen3.5-4B 微调的 Q4_K_M 量化版本，目前未部署任何 Inference Provider，下载量未被统计，README 为空。
Adolphsson 在 Hugging Face 发布 GLM-5.3-Flash 去审查版的 GGUF 量化，基于 dealignai 的 CRACK abliteration FP8 checkpoint，采用 IQ4-Maya 配方量化，支持 1M tokens 上下文与视觉（mmproj F16），保留 MTP 草稿块可用于投机解码。全量约 156.3 GB，分 4 个分片，MIT 许可；在单张 RTX 5090 上 1M 上下文实测 28.5 tok/s，仅通过功能验证，尚未跑 MMLU 等 benchmark。
ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，用 GSQ 加 RCO 的梯度搜索按张量敏感度分配量化类型，提供 IQ1_M、IQ2_XXS、IQ2_XS 三档。IQ2_XXS（2.00 bpw）在 AIME25、GPQA-Diamond、LiveCodeBench v6 上完全追平 FP8/FP4 基模型，任务均值恢复 100.0%；IQ1_M 保留 98.7%。配合 Strata 引擎可在单张 12 GB VRAM 的 GPU 上运行；llama.cpp 截至 2026 年 10 月 23 日尚不支持该模型。
推荐理由：原文给出了各量化的基准恢复率和完整方法与分配文件，读者可以据此判断低比特量化到底损失了多少能力。
Jamer69 在 Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本，提供 GGUF、Safetensors 和 MLX 格式，文件大小从 4.00 GB（MLX 4-bit）到 14.23 GB（BF16）不等，推荐 GGUF 使用 Q4_K_M（4.60 GB）。该版本无内置安全检查或内容过滤，可直接生成成人、NSFW 及敏感图像，配套 qwen3vl_8b 文本编码器和 VAE 文件，通过 ComfyUI 与 ComfyUI-GGUF 使用，MLX 格式针对 Apple Silicon 优化。
ktobik 在 Hugging Face 发布 abliterated（去拒绝）版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化，提供 Mix-256G（235.8 GB 内存）与 Mix-128G（114.0 GB）两种构建。模型为 763B 参数 MoE，含 384 个路由专家和 197B 参数 Engram n-gram 表（110.6 GB 留在 SSD 按需读取），1M token 上下文。精度由实测 KLD 的背包搜索逐层分配，Mix-256G 在 held-out 文本上 top-1 一致率 93.7%、PPL 较原模型 +2.4%。
推荐理由：原文给出实测 KLD、拒绝率前后对比和逐层精度搜索方法，读者可据此判断去对齐版本与量化方案的实际代价。
Orca 发布 abliterated 版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化文件，提供 Mix-256G（235.8 GB）与 Mix-128G（114.0 GB）两种构建。模型为 763B 参数 MoE，含 197B 参数 Engram n-gram 表（110.6 GB，留在 SSD 按需读取）和 1M token 上下文；精度按实测 KLD 逐层搜索分配。去对齐版在 500 条有害提示上拒绝率均值 0.074（原版 0.874），JBB-harmful 下降 97%，MMLU 保持 0.91 左右；Mix-256G 在 2×H200 上约 70 tok/s，需 llama.cpp PR #30817，MIT 许可。
同一新闻，精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布，763B MoE 最低 235.8 GB 内存可跑》
abliterated 版 GLM-5.3 Flash 量化模型 ktobik/huihui-glm53-flash-abliterated-q4kxl-public（UD-Q4_K_XL）在 Hugging Face 上架。该模型可通过 llama.cpp 启动本地 OpenAI 兼容服务器或在终端直接推理，并支持 Ollama、Docker Model Runner、Lemonade 等多种运行方式，也可接入 Pi、Hermes、OpenClaw 等智能体工具。
AItaro0214 发布的 qwen38-flash-next-abliterated-iq3s 已在 Hugging Face 上线，提供 IQ3_S 量化版本。模型可通过 llama.cpp 的 llama serve / llama cli 直接拉取运行，也支持 LM Studio、Jan、Ollama、Docker Model Runner 等多种本地部署方式，并可配置到 Pi、Hermes、OpenClaw 等工具中作为 OpenAI 兼容接口使用。
Hugging Face 上的 mradermacher/Spark-X2.6-4B-uncensored-i1-GGUF 仓库提供 Spark-X2.6-4B-uncensored 模型的 i1-GGUF 量化版本。该模型参数规模为 1.77M，页面未提供下载量统计，用户需登录后查看硬件兼容性信息。
codavidgarcia 发布 orcarouter/Qwen3.8-27B-Uncensored 的 GGUF 与 NInfer 量化文件，让模型连同原生 MTP 头在 16 GB 显存内运行。该去对齐版本在 abliterlitics 的 12 个变体对比中以 82% 的有害提示服从率排第一，各能力基准与原模型差距在 ±1.3 分内；作者在单张 RTX 4080 16 GB 上实测了各文件的 KLD、速度与 llama.cpp/NInfer 运行命令，许可证为 Apache-2.0。
推荐理由：原文给出拒绝率、KLD 与 RTX 4080 实测速度数据，可据此判断该去对齐量化版的损失与 16 GB 可用性。
Hugging Face 上的 mradermacher/Spark-X2.6-4B-uncensored-GGUF 提供 Spark-X2.6-4B-uncensored 模型的静态量化（static quants）版本。该模型目前未被任何 Inference Provider 部署，下载量未被追踪。
grainrigi 在 Hugging Face 镜像了 HauhauCS 的 Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化版，作为备份保留 Q8_K_P 与 f16 mmproj。原版基于 google/gemma-4-26B-A4B-it，总参数 25.2B、激活约 3.8B（128 专家取 top-8 加 1 共享专家），256K 原生上下文、原生多模态；经自动化与人工拒绝基准测试为 0/465 拒绝，少量边缘提示首次会回避但重问即答。
推荐理由：原文给出 0/465 拒绝率的自动化与人工实测数据，以及各量化档位大小和推荐配置，便于按显存选档。
grainrigi 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO 的 abliterated GGUF（SC117 仓库镜像），通过字节级张量移植把 Qwen3.8-Flash-Next 去对齐权重的 144 个张量（约 41.1B 参数、占主模型 33%）换入已有 GSQ-RCO 量化文件，覆盖全部 48 层的残差写入张量。
DavidAU 在 Hugging Face 上架 NVIDIA-Nemotron-3.5-Bolt-E4B-Heretic-Uncensored-Turbo-Brilliance-50x-INST-R-NEO 的 GGUF 版本，属"TURBO BRILLIANCE 50x"系列，目标是减少 token 并提升模型质量与 IQ。该系列覆盖 3B 到 120B 且持续扩充；此模型将提供 64k（Nvidia 设定）和 128k 上下文版本，Heretic 处理与 Imatrix 尚在完成中，可通过 Transformers、vLLM、SGLang 及 Docker 使用。
staccs 发布 pqhaz/DeepSeek-V4.1-Flash-1017-heretic（DeepSeek-V4.1-Flash-1017 的 pqhaz abliterated 版）的 106.8 GB 单文件 GGUF，对 557B 参数的 routed experts 采用 lecore 激活校准 11-bit 矢量量化（2048 条码本、65,536 校准 token），Engram n-gram 表沿用原版需另下载约 203 GB。以未量化源模型为教师的评测显示 2k 上下文困惑度 2.762、top-1 一致率 80.9%，优于未校准的 vq10sh12 版（PPL 3.615、top-1 74.5%）。
staccs 发布了 106.8 GB 单文件 GGUF，对 dealignai 制作的 DeepSeek-V4.1-Flash-1017 abliterated（UNCENSORED-FP8）版本重新量化，采用 lecore 激活校准的 11-bit 向量量化处理路由专家（2048 码本条目、65,536 校准 token，1.39 bpw，cosine 0.909），注意力骨架用 q4_K，共享专家 VQ 11-bit。评测以未量化源模型为教师，WikiText-2 上 2k/16k 上下文困惑度 2.817/2.936，top-1 一致率 80.2%/78.6%，优于未校准的 vq10sh12 版本（PPL 3.615、top-1 74.5%）。
推荐理由：作者用未量化源模型给出困惑度、KL 散度和 top-1 一致率对照，可据此评估这套 11-bit VQ 量化的损耗。
staccs 在 Hugging Face 发布 rumplestilzken/DeepSeek-V4.1-Flash-1017-abliterated 的单文件 GGUF，大小 106.8 GB，对 557B 参数的路由专家采用 lecore 激活校准 11-bit 向量量化（2048 码本条目，65,536 校准 token），1.39 bpw、加权余弦 0.909。评测以未量化源模型为 teacher，2k/16k 上下文困惑度 2.821/2.950，top-1 一致率 80.5%/78.4%，优于未校准的 vq10sh12 版（PPL 3.615、top-1 74.5%）。
同一新闻，精选展示《staccs 发布 DeepSeek-V4.1-Flash-1017 abliterated 版单文件 GGUF 量化包》
mrfakename 的 DeepSeek-V4.1-Flash-1017-abliterated 被重新量化为单个 106.8 GB 的 lecore 校准 11-bit VQ GGUF 文件，路由专家参数 557B，码本 2048 条目、1.39 bpw。在 WikiText-2 上 2k/16k 上下文 perplexity 分别为 2.799/2.917，top-1 与源模型一致率 80.3%/78.5%，优于此前未校准的 vq10sh12 版（PPL 3.615）。
Hugging Face 上发布了 zandenAI/GLM-5.2-FP8-Uncensored 的 Colibri int4 独立转换版，供 C 推理引擎 JustVugg/colibri 使用，该引擎将稠密部分保留在内存中并从本地存储流式读取 MoE 专家权重。转换采用行式 int4 量化（嵌入与 LM head 为 int8，norms 与路由权重为 FP32），非标准 Transformers/vLLM/GGUF 格式，须用 Colibri 加载，遵循 MIT 许可。
EsteefAi 在 Hugging Face 上架 Llama-3.2-3B-Instruct-uncensored-GGUF-mirror 镜像，提供 Q6_K 量化版本。该页面给出用 llama.cpp、Ollama、Docker、LM Studio、Jan 等工具运行该 GGUF 模型的完整命令，也可配置到 Pi、Hermes、OpenClaw 等智能体中，通过本地 OpenAI 兼容服务器调用。
AtomicChat 把 NVIDIA Nemotron 3.5 Bolt E4B（基于 Gemma-4-E4B-it）的拒绝行为从权重中移除，提供烘焙 GGUF 量化版和 3.5 MB rank-1 LoRA。按 Arditi et al. 2024 的拒绝方向方法处理 Gemma 4 每块三次写入及其 RMSNorm 共 126 个矩阵。JailbreakBench 拒绝率从 93.8% 降到 1.2%，俄语红队提示从 76% 降到 0%，XSTest 从 9.2% 降到 0.4%，开启思考后 30 题中 29 个拒绝降为 0；MMLU 从 68.50% 到 67.85%（McNemar p=0.21），工具调用 20/20、30k 长文检索 3/3 不受影响。
推荐理由：原文给出完整的拒绝方向定位方法与前后对照数据，拒绝率从93.8%降到1.2%，MMLU与工具调用影响均有实测。
IsValorum 发布 Occamy-1.0 APEX-I-NanoPlus-V2.1 Abliterated GGUF 无对齐版，称通过正交激活转向消除拒绝向量，探针测试 0/10 拒绝。该量化版文件 12.54 GB、3.40 BPW，WikiText-2 困惑度 6.2432（较 BF16 基线 6.18 仅 +1.02%），支持 24GB 显存跑满 256K 上下文；社区实测在 RTX 4070 上以 98.8% 完成 Shortbench 11/12 任务，zephel01 在 SWE-bench 风格评测测得 90.0%–93.3% 解决率。
Octopusman388 发布 electroglyph/flint-uncensored 的 GGUF Q4_K_M 量化版（22.5 GiB），该模型是对 RecursiveSI/flint（39.8B-A2.5B MoE 编码模型）的 Heretic 去对齐版本，仓库仅做转换与量化，无额外训练，Apache 2.0 许可。实测拒绝率 5/100（原版 98/100）；已知问题是在边界/敏感提示下推理可能失控，10k+ 字符无答案，presence_penalty 1.5 无效，用 --reasoning-budget 4096 加提示语可缓解，4/4 单轮及多轮 agent 运行均正常终止。
推荐理由：作者实测了拒绝率前后对比和推理循环问题，并给出可复现的 reasoning budget 缓解参数与解码速度数据。
研究者提出 LEMS 与 KFAC-SVD，改进基于 SVD 的大语言模型压缩：LEMS 通过逐层误差代理结合 ILP 实现更有效的全局秩分配，KFAC-SVD 利用逐 token 统计缓解此前 Fisher 方法的秩塌缩。在 Mistral、Qwen3 和 Llama 3 模型族上，LEMS 带来最高 4.8 p.p. 的 zero-shot 准确率提升（可泛化到 70B 参数规模），KFAC-SVD 平均降低困惑度 15%。论文已被 ICML 2026 接收。
IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 NVFP4A16 量化版，体积从 bf16 的 65.8 GB 降到 22.1 GB，KL 0.0148。作者用 llm-compressor 0.14.0 按 NVIDIA 的 NVFP4 布局量化：专家用 FP4 权重加 bf16 激活，Mamba2 投影用 FP8，注意力保持 bf16，并用 GPTQ 以 ultrachat_200k 前 256 条对话校准。在 DGX Spark 上用 vLLM 0.30.0 实测通过，MTP 投机解码接受率 63%；24 GB 显存较紧张，建议 32 GB 以上。
推荐理由：作者实测了 vLLM 部署并给出各量化版本与 bf16 的 KL 和拒绝数对比，可据此选择合适的构建。
IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 FP8-DYNAMIC 量化版，体积从 bf16 的 65.8 GB 降到 35.0 GB，KL 0.0134，用 llm-compressor 0.14.0 无校准数据制作。附 NVFP4A16（22.1 GB）和 W4A16（20.5 GB）4-bit 版本，可在 Ampere GPU 上运行。Heretic 评测协议下（关闭思考，100 条有害提示）各版本拒绝数为 20-26/100，差异不显著；原始 ThinkingCap 拒绝 99/100，bf16 去对齐版降至 21/100。
同一新闻，精选展示《IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 去对齐版 W4A16 量化权重》
IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 W4A16 量化版，20.5 GB（bf16 为 65.8 GB），KL 0.0215，用 llm-compressor 0.14.0 以 GPTQ 按 64 分组对称 INT4 量化，激活保持 bf16，面向无 FP4/FP8 支持的 GPU（如 Ampere）。在 DGX Spark 上用 vLLM 0.30.0 测试，4 个温度为 0 的请求均正确且工具调用格式正常；Heretic 评测显示 100 个有害提示拒绝 26 个（bf16 去对齐版为 23），作者称数个拒绝的差异不显著。
推荐理由：发布方给出了各量化版本相对 bf16 的 KL 散度和拒绝数对比，还注明两次基线运行差异数个拒绝不显著，便于判断精度损失。
Hugging Face 推出 torch-neuronx model support Space，可查询 Hub 上热门模型能否在 AWS Trainium 上原生运行，并提供可复现的 run.py 脚本。每条记录包含 Trainium core 分片数、含编译的总运行时间和峰值显存，结果来自公开数据集 aws-neuron/torch-neuronx-model-support，用户可通过 NEFF cache bucket 跳过编译。
Solstice-AI 将 DavidAU 的 Qwen3.8-27B-TURBO-Fable-Cold-Fusion 量化打包为 Apple MLX oQ4e 混合精度版本，内置 1,048,576 token 的 YaRN 上下文扩展，内存占用 17.02 GB，可在 16GB/24GB MacBook 上通过 Anvil 或 MLX-LM 运行。官方称在 Claude Code 评测框架下以 9/9 项基准全胜 Claude Opus 4.6 Max，其中 SWE-bench Pro 61.7% 对 53.4%，ARC-C 735、ARC-E 882。Apple Silicon 上的 MTP 多 token 预测带来 1.72×–2.20× 的加速。
leonsarmiento 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated 的 MLX 量化版，采用 BaseQuant_XL 6/8-bit 混合量化并嫁接 MTP 头，总大小 30.60 GB。MTP 头来自 huihui-ai 在去对齐时原样保留的 19 个源张量，经逐张量校验与 Qwen3.6-35B-A3B 原始 MTP 头字节一致。在 oMLX（M4 Pro 48GB）上 mtp_enabled 开启时草稿接受率 89.1%，吞吐 78.6 tok/s，较关闭时的约 58.5 tok/s 提升 28–34%；MTP 加速仅支持 oMLX，LM Studio 只能加载基座模型。
推荐理由：作者给出 MTP 草稿接受率、吞吐对比和逐张量离线校验数据，读者可据此判断这个 MLX 移植在速度与精度上的取舍。
Qwen3.8-Flash-Next-Orca-Abliterated-GSQ-RCO-Coder-GGUF（58.6 GB）发布，通过移植 orcarouter 的 144 个正交化残差张量，在 256 专家剪枝的 Coder 架构上实现去审查。模型在 llama.cpp、LM Studio、Ollama 中开箱即用；SWE-bench Verified 79.20%、LiveCodeBench v6 87.43% 基准权重保留，代码语料 PPL 仅从 1.2573 升至 1.2749，安全红队测试合规率 100%。
armin1 发布了 NVIDIA Nemotron-3.5-Super-VL-120B-A12B-NVFP4 的 abliterated（uncensored）版本，通过保持量化的轻量权重编辑移除拒绝行为，可无缝替换原模型并在 vLLM 与 TensorFold 上直接加载。
推荐理由：给出了同一测试环境下的拒绝率、KL 保真度和推理速度对比数据，可以据此评估这个去对齐版本付出的实际代价。
mradermacher 在 Hugging Face 上提供 Sage-A1.5-Heretic-Abliterated-Uncensored-i1-GGUF 量化模型，支持以 Q2_K 等量化版本运行。该模型可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或直接推理，也可在 Ollama、Docker、LM Studio、Jan 等工具中使用，并给出了 Pi、Hermes Agent、OpenClaw 等智能体的具体配置方法。