DeepSeek-V4.1-Flash-1017-Abliterated 的 ik-llama GGUF 量化版上线 Hugging Face
Hugging Face 用户 ji-farthing 发布 DeepSeek-V4.1-Flash-1017-Abliterated 的 ik-llama GGUF 量化仓库。该仓库公开可访问，但用户需登录并同意分享 Hugging Face 信息、接受相关条件后才能下载模型文件。
#Hugging Face
新闻、仓库与研究，按时间排列。
Hugging Face · 新模型：abliteratedAI 评分2121 Hugging Face · 新模型：abliteratedAI 评分2525 mradermacher 发布 Qwen3.5-27B-abliterated-ko-i1 GGUF 量化版本
mradermacher 在 Hugging Face 上提供 Qwen3.5-27B-abliterated-ko-i1 的 GGUF 量化模型（如 Q2_K）。该模型可通过 llama.cpp 本地运行或启动 OpenAI 兼容服务器，并支持在 Ollama、Docker Model Runner、LM Studio、Jan、Pi、Lemonade、Hermes Agent 及 OpenClaw 等工具中使用。
Hugging Face · 新模型：uncensoredAI 评分2222 OpenIntelligenceNet 发布 Spark-X2.6-4B-Uncensored-GGUF 量化模型
Spark-X2.6-4B-Uncensored-GGUF 上架 Hugging Face，提供 Q4_K_M 量化版本，可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或直接在终端运行推理。该模型还支持通过 Ollama、Docker Model Runner、Lemonade 以及 Pi、Hermes、OpenClaw 等 Agent 工具加载使用。
Hugging Face · 新模型：uncensored同新闻AI 评分7070 dealinai 发布 GLM-5.3-Flash 无审查 FP8 权重，HarmBench-320 零拒绝且 MMLU 反超基线
dealinai 以 CRACK 方式对 GLM-5.3-Flash 做权重级去审查并发布 FP8 版本（320B 总参数、18B 激活、1M 上下文），直接在张量中移除拒绝行为，不用 SFT、DPO、LoRA 或模板技巧。HarmBench-320 上 reasoning-OFF 和 max 档 320/320 全通过、0 拒绝（low 档保留部分拒绝），MMLU 87.33% 高于基线 86.74%；H200 TP4 原生 FP8 解码 163 tok/s，开启 MTP 投机解码达 211 tok/s、接受率 75.9%。
同一新闻，精选展示《GLM-5.3-Flash UNCENSORED FP8 发布，权重级去对齐且 MMLU 反超基座》
Hugging Face · 新模型：uncensored同新闻AI 评分6666 FLUX 3 Image Klein 提示词扩展器无对齐版发布，英文拒绝率从 63% 降到 0%
AtomicChat 基于 BFL 的 FLUX 3 Image Klein 提示词扩展器（9B Qwen3.5 微调）投影移除拒绝方向，发布 llama.cpp 可用的 GGUF 权重及 3MB LoRA 版本。作为聊天模型，held-out 提示词上英文拒绝率从 63% 降至 0%，俄语从 29% 降至 1%，MMLU 从 74.15% 微降至 73.95%，工具调用与长文本检索不受影响；作为 upsampler 时在 35 条敏感请求中比原版多保留 2 条内容，但 Klein 图像模型本身不画这两类，出图无可见去审查效果。
同一新闻，精选展示《AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版》
Hugging Face · 新模型：abliteratedAI 评分3434 Huihui-Qwen3.8-27B-abliterated-GGUF 发布：Qwen3.8-27B 去审查版本
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术移除拒绝行为，发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层（0 起始索引）做消融，其余层保持不变，并提供 Q2_K_L 至 Q8_0_L 等多种量化格式，可通过最新版 ollama（huihui_ai/Qwen3.8-abliterated）或 llama.cpp 运行，支持 -c 262144。模型安全过滤大幅降低，建议用于研究测试环境。
Hugging Face · 新模型：uncensoredAI 评分2222 Starw1 发布 DeepSeek-V4.1-Flash-1017 Uncensored GGUF 量化版
Hugging Face 用户 Starw1 发布 DeepSeek-V4.1-Flash-1017 的 Uncensored GGUF 量化版本，采用 IQ2_XXS 与 MXFP8 混合量化，模型规模 197B 参数，基于 deepseek41-engram 架构。该模型为 2-bit 量化版本，可在本地硬件上运行。
Hugging Face · 新模型：uncensoredAI 评分5050 Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP GGUF 发布
HauhauCS 发布 Qwen3.8-27B 无审查 Aggressive 变体的 GGUF 量化版本，0/465 拒答，直接作答且几乎无前导语。该版本附带 HauhauCS FastMTP 32K 加速 sidecar，在 Q8_K_P 下相比禁用 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG，比标准内嵌 MTP 高 35.2% 和 21.1%。模型保留文本、推理、agentic、图像与视频能力，原生 262,144-token 上下文，可扩展至 1,000,000，兼容 llama.cpp 等标准 GGUF 运行时。
Hugging Face · 新模型：uncensored同新闻AI 评分6666 dealignai 发布 GLM-5.3-UNCENSORED-FP8 去对齐权重版 v2
dealignai 发布 GLM-5.3-FP8 的全谱系去对齐权重版 v2，通过直接修改 bf16 residual-writer 张量降低拒绝行为，不依赖微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题，HB-320 上 GARBAGE 降为 0，非版权 240 项行为 TRUE_COMPLY 达 91.7%（off），MMLU 87.43% 较基线 +1.85pp；模型基于 zai-org/GLM-5.3（753B，glm_moe_dsa 架构，纯文本），可在 vLLM 上以原生 FP8 速度运行，附 8×H200 TP8 部署配置与 reasoning_effort 仅支持 low/high 等运行注意事项。
同一新闻，精选展示《dealignai 发布 GLM-5.3-UNCENSORED-FP8 无对齐权重版并修复推理循环问题》
Hugging Face · 新模型：uncensoredAI 评分3838 Gptsn/Llama-3.2-3B-Instruct-uncensored-GGUF 量化版本发布
基于 unsloth/Llama-3.2-3B-Instruct 的去审查微调模型推出 GGUF 量化版本，abliteration 后 KL 散度仅 0.0265，测试中 100 次拒绝仅 4 次，并保留多语言能力。提供 Q4_K_M（2.02GB）、Q5_K_M（2.32GB）、Q8_0（3.42GB）和 f16（6.43GB）四种量化，可在 LM Studio 或 Ollama 中加载使用。
Hugging Face · 新模型：abliterated精选AI 评分6464 R0U5 发布 Qwen2.5-1.5B-Abliterated（Lethe）去拒绝版本
R0U5 在 Hugging Face 发布基于 Qwen2.5-1.5B-Instruct 的 abliterated 版本，用 Lethe 方法从对比激活中计算拒绝方向并从残差写入权重矩阵（含嵌入矩阵）中正交化移除。模型转为 GGUF 后在 llama.cpp 实际服务环境验证，20 条 held-out 拒绝诱导提示的拒绝数从 17/20 降到 0/20，连贯性检查通过；并指出自评同源采样和把退化输出计为合规两种假完美陷阱。提供 Q8_0（1.65 GB）与 f16（3.09 GB）权重，经 YaRN 扩展至 65,536 token 上下文，作者明确说明消融只改变拒绝行为、不增加能力。
推荐理由：原文给出 Lethe 消融方法、llama.cpp 实测拒绝率从 17/20 降到 0/20，还说明了两个易被忽视的评测陷阱。
Hugging Face · 新模型：abliteratedAI 评分1616 mostwanted002 发布 Sage-A1.5-Ablitrex-abliterated-BF16 模型
Hugging Face 上架了 mostwanted002 的 Sage-A1.5-Ablitrex-abliterated-BF16 模型，采用 Safetensors 格式，参数规模 35B，精度为 BF16。该模型目前未部署任何 Inference Provider，README 内容为空。
Hugging Face · 新模型：abliteratedAI 评分2626 Feyospace-v1.1-Abliterated-security-MTP-UD-Q4_K_S GGUF 量化版发布
Hugging Face 社区发布 Feyospace-v1.1-Abliterated-security-MTP-UD-Q4_K_S，这是基于 OBLITERATUS/feyospace-s1-obliterated 的 GGUF 量化版，面向本地网络安全研究、代码分析与工具辅助调查。该构建采用 UD-Q4_K_S 混合精度布局、面向安全的 importance-matrix 校准，并保留 MTP 头以支持投机解码；上游模型约 28B 参数、Qwen3.5 架构、Apache-2.0 许可，最大上下文 262,144 tokens。该卡未提供此量化版的 benchmark 结果，最终张量清单与质量保留情况尚待验证。
Hugging Face · 新模型：abliteratedAI 评分3636 Huihui-Kolibri-1-BF16-abliterated-GGUF：Aleph-Alpha Kolibri-1-BF16 的无审查版
huihui-ai 基于 Aleph-Alpha/Kolibri-1-BF16 制作了 abliterated 无审查版本，全程用 llama.cpp 的 GGUF 完成，不依赖 Transformers。已用 llama.cpp 重新量化并上传 Q2、Q3、Q4、Q5、Q6、Q8 和 BF16 版本。原版 llama.cpp 暂不支持 kolibri1 架构，需应用仓库内提供的补丁并检出 commit 836d571 后编译。
Hugging Face · 新模型：uncensoredAI 评分3636 Ornith-1.5-122B-UNCENSORED NVFP4 版本发布，可单卡 RTX 5090 运行 Infernix 格式
dealignai 在 Hugging Face 发布 Ornith-1.5-122B-UNCENSORED 的 NVFP4-Infernix 格式导出，这是去 refusals 版本的量化模型，基于 Qwen3.5-122B-A10B 架构（48 层、256 个路由专家每层取 top 8），附带 MTP 与 DFlash2 drafter。模型经逐字校验与 checkpoint 无失配，可在单张 RTX 5090（32 GB）上运行，约需 70 GiB 主机内存和 76 GB 磁盘空间，速度仍待优化测定。
Hugging Face · 新模型：uncensoredAI 评分4848 Qwen3.8-Flash-Next-Uncensored 发布 UD-Q4_K_XL 量化版（GGUF）
Hugging Face 用户发布 Qwen3.8-Flash-Next 越狱版（orcarouter/Qwen3.8-Flash-Next-Uncensored）的 UD-Q4_K_XL 风格量化，复刻官方 Unsloth 类型表，主干 5.03 BPW、总计 108.39 GiB，附带 MTP draft head（Q8_0）与视觉塔（BF16），原生上下文 262,144，Apache-2.0。在 AMD Strix Halo 上以 Gufo 与 Halogen 实测 decode 32~40 tok/s，MTP 推测解码正常；缺 MTP head 会静默关闭推测解码，吞吐掉 30%+。
Hugging Face · 新模型：abliterated精选AI 评分6464 gemma4-12b-it-abliterated 发布：从 Gemma 4 12B 权重中移除拒绝方向
pasangimhana 发布 gemma4-12b-it-abliterated，基于 google/gemma-4-12B-it 做权重编辑，将拒绝方向从残差写入中正交化移除，无训练无微调，bf16 单文件 23.9 GB，共修改 97 个张量。大基准（769 条有害提示）上有害拒绝率从 454 降到 6，comply 从 32% 升至 91%，良性提示退化输出率与基座相同（9/92）；方法上在每层捕获 150 有害与 150 无害提示的残差求方向，采用以第 24、28 层为中心、sigma 6 的宽高斯带正交化，并强调嵌入编辑不可省略。使用时需将 <turn|>（token 106）设为停止符；模型无任何安全过滤，作者提醒不要无外部策略层直接公开部署，且未跑 MMLU、GSM8K 等能力基准。
推荐理由：原文给出消融方法、拒绝率前后对比和退化输出对照，读者可据此判断这次权重编辑去掉了多少拒绝行为、代价多大。
Hugging Face · 新模型：abliteratedAI 评分1818 nchapman 发布 Huihui-Qwen3.5-0.8B-abliterated-W4A16-GPTQ 量化模型
nchapman 在 Hugging Face 上发布 Huihui-Qwen3.5-0.8B-abliterated-W4A16-GPTQ，这是一个基于 Qwen3.5 0.8B 的 abliterated 多模态 GPTQ 量化模型，支持 image-text-to-text 任务。模型可通过 Transformers、vLLM、SGLang 加载部署，并提供 OpenAI 兼容 API 与 Docker 运行方式。
Hugging Face · 新模型：abliteratedAI 评分2424 Huihui-Qwen3.5-2B-abliterated-W4A16-GPTQ 量化模型上线 Hugging Face
Hugging Face 上架 nchapman 发布的 Huihui-Qwen3.5-2B-abliterated-W4A16-GPTQ，这是一个 2B 参数、W4A16 GPTQ 量化的 abliterated 多模态模型，支持图像-文本到文本任务。文档给出 Transformers、vLLM、SGLang 及 Docker 的部署示例，并支持通过 OpenAI 兼容 API 调用。
Hugging Face · 新模型：uncensoredAI 评分7575 BoldingBuilds 发布 GLM-5.3-Flash-Uncensored 的 imatrix GGUF 量化并实测去对齐效果
BoldingBuilds 放出 OrcaRouter 去 GLM-5.3-Flash-Uncensored（320B 总参数/18B 激活 MoE、288 路由专家、1M 上下文）的 imatrix GGUF 量化，含 IQ3_XXS、IQ2_M、IQ2_S、IQ2_XXS 四档，并修正共享专家与 attention 量化配方使 IQ2_S 等通过全部 48 项一致性测试。量化权重上实测 JailbreakBench 有害拒绝率 0.040（OrcaRouter FP8 为 0.120，base 为 0.930），HumanEval pass@1 0.927；作者指出空输出会计为服从，提醒评测时必须同时报告空输出数，文件已适配 mainline llama.cpp 与 LM Studio 模板。
Hugging Face · 新模型：uncensoredAI 评分1616 mradermacher 发布 Minecraftism-4B-Thinking-Uncensored 的 i1-GGUF 量化版本
Hugging Face 用户 mradermacher 上架 Minecraftism-4B-Thinking-Uncensored 的 i1-GGUF 量化模型仓库。模型采用 GGUF 格式，页面提供了下载统计与硬件兼容性信息，用户需登录后可添加自己的硬件配置。
GitHub · 去对齐工具与仓库AI 评分4444 a9lim/llmoji：让 AI 编程智能体每条消息开头用颜文字的 CLI 工具
GitHub 开源项目 llmoji 是一个 CLI 工具，可配置 Claude Code、Codex、Grok 等 agent 在每条消息开头使用 kaomoji（颜文字），并将本地记录汇总后上传至共享 HuggingFace 数据集 a9lim/llmoji。2.2.0 修复了三处记录漏洞：codex-cli 0.144–0.158 新会话格式导致 Codex 停止记录、Claude Code 常漏记每轮最后一条消息、OpenClaw 插件安装位置错误，并新增 Grok Build 与 Antigravity 支持；1.2.0 之前的版本存在隐私问题，需通过 pip install --upgrade llmoji 升级后才能上传。
Hugging Face · 新模型：abliteratedAI 评分2626 Huihui-Qwen3.5-4B-abliterated-W4A16-GPTQ 上架 Hugging Face
nchapman 在 Hugging Face 发布 Huihui-Qwen3.5-4B-abliterated-W4A16-GPTQ，这是一个 abliterated 的 4B 多模态 GPTQ 量化模型，支持 image-text-to-text 任务。页面给出 Transformers、vLLM、SGLang、Docker Model Runner 等多种部署方式，均可通过 OpenAI 兼容 API 调用。
Hugging Face · 新模型：uncensoredAI 评分1818 MishraNepali/OrcaSAQ-2-Cyber-27B-Uncensored-GGUF_Q2_K 模型上线 Hugging Face
MishraNepali 发布 OrcaSAQ-2-Cyber-27B-Uncensored 的 GGUF Q2_K 量化版本，可在 Hugging Face 获取。该模型支持通过 llama.cpp、vLLM、Ollama、Docker Model Runner 等多种工具本地运行，并可启动 OpenAI 兼容 API 服务器供 LM Studio、Jan、Pi、Hermes、OpenClaw 等客户端调用。
Hugging Face · 新模型：abliteratedAI 评分2626 Qwen2.5-7B-Instruct-abliterated-64k 发布：元数据修复版 GGUF
R0U5 在 Hugging Face 发布 Qwen2.5-7B-Instruct-abliterated-64k，这是基于 huihui-ai 消融模型与 mradermacher GGUF 量化的元数据修复版，非新增消融。仓库将 context_length 重新声明为 65536 并添加 YaRN rope scaling 元数据（factor 2.0），以满足 Hermes Agent 64,000 token 最低上下文要求，权重与上游量化逐位一致。经 llama.cpp 验证 12 个拒绝测试提示 0 拒绝，Q4_K_M 版本 4.68 GB。
Hugging Face · 新模型：abliteratedAI 评分2020 Hugging Face 上架 abliterated 量化模型 llm-qwen3.8-flash-next-abliterated-iq4xs
abliterated 版模型 yuanyeyuanye/llm-qwen3.8-flash-next-abliterated-iq4xs（UD-IQ4_XS 量化）现可通过 llama.cpp 加载，支持 llama serve 启动兼容 OpenAI 的本地服务器与 llama cli 终端推理。模型也可经 Ollama、Docker、Lemonade 拉取运行，并能接入 Pi、Hermes、OpenClaw 等工具，覆盖 macOS、Linux 与 Windows 平台。
Hugging Face · 新模型：uncensored精选AI 评分6060 dealignai 发布 Nanbeige4.3-33B 的 UNCENSORED GGUF 量化版本
dealignai 在 Hugging Face 发布 Nanbeige4.3-33B 的 UNCensored GGUF 版本，移除基础模型的拒绝行为，提供 Q6_K（25.3 GB）、Q4_K_M（18.7 GB）、IQ2_XXS（8.7 GB）三种量化，均附带基于 1M token 校准内容的 imatrix，保留原生 think on/off 与 512K 上下文。与同量化基础版对比，MMLU chat 下降 Q6_K −1.74pp、Q4_K_M −1.09pp、IQ2_XXS −4.53pp；6 提示多轮合规测试三个量化均为 6/6 通过、0 次拒绝。
推荐理由：原文给出三种量化的 MMLU 前后对照和多轮拒绝率实测，读者可据此评估去掉拒绝行为的能力代价。
Reddit · r/LocalLLaMAAI 评分1515 拥有 140TB 存储和 640GB A100 服务器，该下载哪些模型
一位 r/LocalLLaMA 用户拥有 140TB 存储和搭载 640GB A100 GPU 的服务器，在 Hugging Face 被接管后打算下载最重要的模型，已计划包括 GLM5.3 (Flash)(abliterated) 和 DS4 Flash 等，并询问还需保存哪些模型和量化版本以备将来使用，也想涉足图像和视频模型。
Reddit · r/LocalLLaMAAI 评分1616 拥有 140TB 存储和 640GB A100 服务器，该下载哪些模型
一位 r/LocalLLaMA 用户拥有 140TB 存储和搭载 640GB A100 GPU 的服务器，在 Hugging Face 被接管后打算下载最重要的模型，已计划包括 GLM5.3 (Flash)(abliterated) 和 DS4 Flash 等，并询问还需保存哪些模型和量化版本以备将来使用，也想涉足图像和视频模型。
Hugging Face · 新模型：abliterated精选AI 评分5858 Nanbeige4.3-33B 网络安全去对齐 GGUF 版发布，拒绝率从 80% 降到 8%
FRENCHFAKER 发布首个 abliterated 版 Nanbeige4.3-33B GGUF，用 refusal-direction ablation 移除原始模型对进攻性安全请求的拒绝行为。50 条有害提示词基准上拒绝率从 80%（40/50）降至 8%（4/50），安全/渗透测试类提示词拒绝率约 0%，推理与工具调用保持完整；IQ4_XS 量化约 17 GB，可在单张 24 GB GPU 上以约 33 tok/s 运行，基于 Apache-2.0 许可。
推荐理由：原文给出拒绝率前后对照和逐层消融方法，读者可据此评估这个去对齐版本的可靠程度。
Hugging Face · 新模型：abliteratedAI 评分2525 huihui-ai 发布 Huihui-gemma-4-12B-agentic-fable5-abliterated 去审查版本
huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2 制作 abliterated 去审查版本，在不使用 TransformerLens 的情况下移除模型拒绝行为，属于概念验证实现。该模型安全过滤大幅减弱，可能生成敏感或不当内容，官方建议仅用于研究、测试或受控环境，避免直接投入生产或面向公众的商业应用。
Hugging Face · 新模型：abliteratedAI 评分2222 Huihui-GLM-5.3-Flash-abliterated 模型在 Hugging Face 上提供 Transformers、llama.cpp、vLLM 等多框架使用指南
0xSojalSec 在 Hugging Face 发布 Huihui-GLM-5.3-Flash-abliterated，支持 image-text-to-text 任务，提供 UD-Q4_K_XL 量化版本。页面给出 Transformers pipeline、llama.cpp、vLLM、SGLang、Ollama、Docker 等多种部署方式的完整命令，可通过 OpenAI 兼容 API 本地运行该模型。
Hugging Face · 新模型：abliteratedAI 评分2222 0xSojalSec 发布 GLM-5.3-Flash-abliterated 模型
Hugging Face 上架了 0xSojalSec/GLM-5.3-Flash-abliterated，一个 abliterated（去抑制）版本的 GLM-5.3-Flash 多模态模型，支持 image-text-to-text 任务。页面给出 Transformers、llama.cpp（UD-Q4_K_XL 量化）、vLLM、SGLang、Ollama、Docker 等多种本地与服务器部署方式，并提供 OpenAI 兼容 API 调用示例。
Hugging Face · 新模型：uncensored精选AI 评分5656 Qwen3.8-Flash-Next-Uncensored 2-bit MLX 量化版发布，附 DFlash2 加速与 M1 Max 实测
3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化版，目标模型采用 affine 2-bit/group-128 重建，搭配 Inco AI 的 BF16 DFlash2 草稿模型，完整下载 74.048 GB。在 M1 Max 64 GiB 实测中，代码与数学 warm 解码达 37.62 和 33.69 tokens/s，约为基线的 1.70× 和 1.56×，文本仅 1.048×；固定 50 题 GSM8K 子集全部答对且与原生参考一致，进程峰值内存 42.12 GiB。
推荐理由：作者实测了 M1 Max 上代码与数学解码的加速倍数和内存峰值，并给出 32/48/64 GiB 的可行性判断，便于评估本地部署。
Hugging Face · 新模型：uncensoredAI 评分4848 Qwen3.8-Flash-Next-Uncensored MLX 2/8-bit 优化转换包发布
Hugging Face 用户 3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化转换包，基于 360 GB BF16 源检查点，专家投影采用 affine 2-bit/group128，其余投影为 8-bit/group64，文件约 72.8 GB。验证含 50 题 GSM8K 子集、烟雾测试（15/18 通过）及文本生成约 23.5 tokens/s 的计时结果；模型采用原生 qwen4_exp 多模态实现，可配合 run_qwen38_unsloth.py 以 16384 上下文运行。
GitHub · 3D 生成新仓库AI 评分1212 开源项目：基于 Hugging Face 深度学习模型的多模态文本生成图像方案
GitHub 开源项目 A-Multimodal-Approach-to-Text-to-Image-Generation-Using-Deep-Learning-Models 探索基于 Hugging Face 文生图模型的多模态生成。项目用 Python 和 React.js 构建交互界面，实验了 100+ 提示词变体，评估 500+ 张生成图像，从提示词遵循度、语义相关性和视觉质量三方面对比不同模型的输出。
Hugging Face · 新模型：uncensoredAI 评分3434 Qwen3.5-4B-Uncensored-HauhauCS-Aggressive 发布：4B 无拒绝无损去审查版模型
HauhauCS 发布 Qwen3.5-4B 的去审查版 Uncensored-HauhauCS-Aggressive，移除全部 465 个拒绝样本，实现完全无审查且能力无损，模型不会拒绝提示词。其提供 BF16 到 Q4_K_M 等多种 GGUF 量化（7.9 GB 至 2.6 GB），原生支持文本、图像、视频多模态，262K 上下文（可用 YaRN 扩展到 1M），可在 llama.cpp、LM Studio、Jan 等运行时加载。
Hugging Face · 新模型：abliteratedAI 评分1818 Qwen3.5-4B-abliterated 模型上线 Hugging Face
cfahlgren1 在 Hugging Face 发布 abliterated 版 Qwen3.5-4B 多模态模型，支持图像-文本输入。该模型可通过 Transformers、MLX、vLLM、SGLang 等方式加载，并提供 OpenAI 兼容 API 与 Docker 部署选项。
Hugging Face · 新模型：abliteratedAI 评分2424 Qwen3.8-Flash-Next-Abliterated Sushi 3bpw 实验性量化版本发布
sanasol2008 基于 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 BF16 权重制作了 Sushi 格式 3bpw 实验性量化包，路由专家采用 EXL3 K3 编码，未额外做 abliteration 或微调。完整下载约 79.22 GiB，在 Apple M3 Max 48 GiB 上冷解码 11.88 tok/s、热解码 12.88 tok/s，慢于 2bpw 版本；校准误差相对 2bpw（相对 Frobenius 误差 0.029 对 0.064）更低，支持 262144 上下文配置上限。
Hugging Face · 新模型：abliteratedAI 评分2424 prithivMLmods/Qwen3.8-27B-abliterated-NVFP4-GGUF 上架 Hugging Face
Qwen3.8-27B-abliterated 的 NVFP4 GGUF 量化版本（27B 参数）已在 Hugging Face 上架，支持 image-text-to-text 多模态输入。文档给出 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker 等多种本地部署与 OpenAI 兼容 API 调用方式。