MiMo-V2.6-Flash-RL-UNCENSORED-oQ8e-mtp 模型在 Hugging Face 上架
Hugging Face 新增 dotyerts 发布的 MiMo-V2.6-Flash-RL-UNCENSORED-oQ8e-mtp 量化模型。该模型使用 oQ（oMLX v0.7.0）混合精度量化，为 8 bit、group size 64，格式为 MLX safetensors。
#量化
新闻、仓库与研究，按时间排列。
Hugging Face · 新模型：uncensoredAI 评分2121 Hugging Face · 新模型：abliteratedAI 评分1818 John2202 发布 Qwen3-1.7B-abliterated Q4_K_M GGUF 量化版模型
John2202 在 Hugging Face 发布 Qwen3-1.7B-abliterated 的 Q4_K_M GGUF 量化版本，由 mlabonne/Qwen3-1.7B-abliterated 通过 llama.cpp 转换而来。用户可通过 llama-cli 或 llama-server 命令直接加载使用，服务器模式默认 -c 2048 上下文。模型也可在 llama.cpp 仓库中按源码编译方式（支持 LLAMA_CUDA 等 GPU 加速编译选项）直接调用。
Hugging Face · 新模型：uncensoredAI 评分6363 GLM-5.3 无对齐版 EXL3 3.0bpw 量化发布
araz4111 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本，平均码率 3.04 bpw，总大小 273 GiB，基于 zai-org/GLM-5.3 的权重编辑无对齐变体，架构为 GlmMoeDsaForCausalLM，753B 参数、256 路由专家（8 激活）加 1 共享专家，包含 MTP 层可作投机草稿。作者提供了 wikitext-2 上的 KL 散度与困惑度保真度数据，以及 tau2-bench 智能体评测，与 Z.ai FP8 原版差异不具统计显著性；并提示 TabbyAPI 的 glm4_5 解析器会把字符串参数 JSON 解码为整数，导致零售场景约 70% 工具调用失败，使用前需修复。
Hugging Face · 新模型：abliterated精选AI 评分7070 Muse-Glimmer-30B Heretic Abliterated BF16 v2 发布，拒绝率降至6.5%
kmnstudio101 发布 Muse-Glimmer-30B-Heretic-Abliterated-BF16 v2，使用 Heretic 工具经 500 次 Optuna 试验完成消融，拒绝率从 v1 的 29% 降至 6.5%，KL 散度为 0.076。消融流程包括跨 52 层计算拒绝方向、LoRA 适配器投影去除拒绝方向并合并回基础权重。BF16 版本约需 55 GB 显存，另有 Q4_K_M 约 16 GB、Q6_K 约 22 GB、Q8_0 约 28 GB 的 GGUF 量化版本，许可证为 Apache 2.0，基础模型为 Meta Muse Glimmer 30B。
推荐理由：原文给出 v1 到 v2 的拒绝率与 KL 散度对比数据和完整消融流程，读者可据此评估这个去对齐版本的效果与质量代价。
Hugging Face · 新模型：abliterated精选AI 评分7676 Muse-Glimmer-30B-Abliterated 发布，移除约87%安全拒绝并放出GGUF量化
kmnstudio101 发布 meta-models/Muse-Glimmer-30B 的去消融版本，用 KL 约束（λ_KL=1.0）的 BoN 引导 LoRA SFT 将安全拒绝率从 100 降到 13/100，LoRA 仅占参数量 0.10%，随后折叠进基础权重。提供 bf16 两个 safetensors 分片（56 GB）及 Q8_0（28 GB）和 Q4_K_M（16 GB）GGUF 量化，各量化变体的 KL 均值分别为 0.1018 与 0.1444；基准评测按作者要求跳过，能力保留未重测。
推荐理由：作者公布了完整的KL指标、拒绝率与训练配置，并说明能力未重测，读者可以据此自行评估损失程度。
Hugging Face · 新模型：abliteratedAI 评分2828 Qwen3.5-9B abliterated 社区合并版发布：带视觉塔的 INT8 ConvRot ComfyUI 检查点
Hugging Face 用户发布社区合并检查点 qwen3.5-9b_abliterated_0x100refusal_vision_int8_convrot，将 lukey03/Qwen3.5-9B-abliterated 的语言权重与 huihui-ai 的 337 个视觉张量合并，共 1,264 个张量、约 9.83 GB，面向支持 INT8 ConvRot 量化的 ComfyUI。250 个语言矩阵相对 L2 量化误差平均 0.9713%。"0% Refusal" 仅为上游命名，并非实测拒绝率；该项目为 Apache-2.0 许可的实验性合并，非官方发布。
Hugging Face · 趋势模型精选AI 评分7171 
NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B-24GB 本地智能体视觉语言模型
NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Bolt 74B-A9B-24GB，一款为本地日常智能体任务设计的视觉语言模型，总参数 74B（9B 激活），采用 Mamba-2-Transformer 混合 LatentMoE 架构，通过原生 IQ2 2-bit 量化与量化感知蒸馏压进 24GB 显存，支持最高 256K 上下文，可在 vLLM 上部署，基于 OpenMDW-1.1 许可商用。
推荐理由：模型卡完整给出架构、训练流程和与同量级模型的基准对比，读者可以自己判断 2-bit 量化的取舍。
Hugging Face · 新模型：abliteratedAI 评分1616 Hugging Face 上架 Qwopus3.8-27B-Flash-V2-abliterated-exl3-6bpw 量化模型
用户 shawnw3i 在 Hugging Face 发布 Qwopus3.8-27B-Flash-V2-abliterated-exl3-6bpw 模型，采用 Safetensors 格式，模型大小为 11B params，张量类型为 BF16 · F16 · I16。该模型没有模型卡，也未部署任何 Inference Provider。
Hugging Face Blog精选AI 评分6363 Liquid AI 发布开源 d1 决策模型 d1-3B 与 d1-omni-600M
Liquid AI 在 Hugging Face 发布开源决策模型 d1-3B 与实验性 d1-omni-600M，模型不做 token 生成而在单次前向传播中给出答案。d1-3B 在 Decision Index 0.2.1 得分 48.57，为 10B 以下最佳，基于 LFM2.5-VL-3B 训练，支持文本与图像输入，在 Jetson AGX Thor 上单问题推理仅需 16 ms，RTX 4090 上 8 ms；在七个公开数据集上均分 82.9，高于 Decider 4B。d1-omni-600M 基于 LFM2.5-Encoder-350M 并加入视觉与音频编码器，均分 78.4 超过参数量四倍于它的 Decider 2B（77.1），目前为早期研究版本。
推荐理由：决策模型不做生成而是单次前向输出答案，原文给出的边缘设备毫秒级延迟数据展示了这一路线的实际可行性。
Hugging Face · 新模型：uncensored精选AI 评分7272 
OS-Software 发布 llm-jp-4.1-33b-thinking 的 Heretic 去审查 GGUF 版
OS-Software 发布了 llm-jp/llm-jp-4.1-33b-thinking 的去对齐 GGUF 版本，使用 Heretic 的自定义 fork 消融参数制作。在 Q4_K_M 量化下，拒绝率从原模型的 88/100 降到 0/100，KL 散度 0.0118，MMLU 74.05% 与 HumanEval pass@1 93.29% 相比原模型分别下降 0.32 和 1.22 个百分点。作者标注该模型仅用于安全研究与红队测试等用途，输出需独立验证。
推荐理由：原文给出了 Heretic 消融参数和拒绝率、KL、基准的前后对比，读者可以据此判断这个去对齐版本的能力损失程度。
Hugging Face · 新模型：uncensoredAI 评分3636 Qwen3.5-4B 对话微调版（Uncensored GGUF）上架 Hugging Face
基于 Qwen3.5-4B 的社区对话/角色扮演微调模型在 Hugging Face 发布，提供 ~3.5 GB 的 Q6_K GGUF 量化文件，支持 llama.cpp、LM Studio 和 Ollama。模型用 Unsloth QLoRA（rank 16、alpha 32）在 AMD RX 6700 XT 上训练，数据集约 11,400 行对话，最终 train loss 约 0.92，上下文最长 2048 token。另有 ~672 MB 的 F16 视觉投影文件，仅图像输入时需要。
Hugging Face · 新模型：abliterated精选AI 评分6161 
MiniCPM-V-4.6 Huihui 去审查 8-bit MLX 版发布，4x 下采样修复大图 OCR
作者发布了 huihui-ai/Huihui-MiniCPM-V-4.6-abliterated 的 8-bit MLX 量化版 YCF-AI/MiniCPM-V-4.6-Huihui-abliterated-8bit-MLX，体积仅 2.3 GB，M1 Ultra 上解码约 140–180 tok/s。相比旧 mlx-community 8bit 版，换用去审查权重是为全栈一致去审查；Heretic 去审查版因空间描述退化被弃用。关键改动是把图像 token 的 downsample_mode 从 16x 改为 4x，使 30 行大页 OCR 达到 120/120 零漏行、35 项视觉套件 35/35，且速度无可测损失。
推荐理由：原文给出换用 Huihui 去审查版而保持 OCR 精度和速度的实测对照，还解释了 4x 下采样为何修复大页 OCR。
Hugging Face · 新模型：abliteratedAI 评分6767 
Qwen3.8-Flash-Next GSQ-RCO 无对齐 GGUF 发布，144 张量转植保留原量化
KENIC-1 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF，通过字节级张量转植把或carouter 无对齐权重的 144 个 write-to-residual-stream 张量替换进 ISTA-DASLab 的 GSQ-RCO 量化文件，覆盖全部 48 层，不重算任何 GSQ 学到的量化值。消融是严格 rank-1 线性编辑，单个方向在 48 层、两种注意力与 512 个路由专家间一致。IQ3_S 构建经逐张量 blake2b 校验：144 个目标全部改变、其余 1079 个张量逐字节不变；行为抽查中上游拒绝的绕过付费墙请求此版本会详细回答，但作者说明这只是抽查而非完整评测。
Hugging Face · 新模型：abliteratedAI 评分3838 Gemma-4-12B-it-AEON-Abliterated-K4-GGUF 量化版本上线 Hugging Face
AEON-7 的 Gemma-4-12B-it-AEON-Abliterated K=4 GGUF 量化版本已上架 Hugging Face，基于 google/gemma-4-12B-it 的 abliteration 版本，采用 K=4 多方向范数保持双投影方法，可消除标准拒绝模式并降低 wikitext PPL 漂移。提供 Q3_K_M 到 Q8_0 共 5 档量化，其中 Q4_K_M 为 7.38 GB，可完整放入单张 T4/RTX 3060/4060。
Hugging Face · 新模型：abliterated精选AI 评分8484 Ternary Bonsai 2 27B Abliterated v2 GGUF 发布，修复思考预算耗尽问题
timfromhcs 发布 Ternary Bonsai 2 27B Abliterated v2 的 PQ2_0 GGUF 权重，通过修改输出层一行让模型在答案写完后关闭推理，避免 v1 把答案写进推理导致预算耗尽出空白回答。在 StrongReject 150 条有害请求、16,384 token 预算测试中得分 0.941（151 中空白 7 次），优于 Hikari07jp 0.738、OS-Software Heretic 0.723 等其他消融版本；SimpleSafetyTests 拒绝率 0%，MMLU 相比原版降 0.56 点，是同类中代价最小的。
推荐理由：作者给出多组对照评测数据，包括与其他消融版本的横向对比和 MMLU 代价，读者可以据此判断这版去对齐的实际效果。
Hugging Face · 新模型：abliteratedAI 评分3939 huihui-ai 发布 Huihui-gemma-4-12B-agentic-fable5-abliterated-GGUF 去审查版本
huihui-ai 发布 Huihui-gemma-4-12B-agentic-fable5-abliterated-GGUF，这是基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF 的去审查（abliterated）版本，整个消融过程仅用 llama.cpp 完成，不依赖 Transformers。模型可通过 huggingface-cli 下载，示例命令以 Q8_0 量化运行并设置 8192 上下文。官方警告该模型安全过滤大幅减弱，建议仅用于研究和受控环境，风险由用户自行承担。
Hugging Face · 新模型：uncensored同新闻AI 评分6161 HauhauCS 发布 Qwen3.8-27B-Uncensored Aggressive 激进去对齐 GGUF 量化版
HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化版，实测 0/465 拒绝，定位为直接给答案、极少前置说明的变体。全部量化保留原生 MTP/NextN 头和 262,144-token 原生上下文（可扩展至 1,000,000），支持文本、图像和视频输入，需另下 BF16 projector。
Hugging Face · 新模型：uncensoredAI 评分4949 
Qwen-Image-2.1 Uncensored GGUF 量化版本发布
Hugging Face 上发布了基于 Qwen/Qwen-Image-2.1 原始权重的 Uncensored GGUF 量化模型，提供 BF16（14.23 GB）到 Q4_0（4.15 GB）多种量化格式，推荐体积与画质平衡最佳的 Q4_K_M（4.60 GB）。模型无内置安全检查器或内容过滤，可直接生成成人、NSFW 及敏感图像，不会拒绝提示词或输出黑图。配套的 qwen3vl_8b 文本编码器与 VAE 文件可直接用于 ComfyUI 及 ComfyUI-GGUF，文本编码器可卸载到系统内存以节省 9–17 GB 显存。
Hugging Face · 新模型：abliterated精选AI 评分7575 Qwen3.8-Flash-Next 剪枝 Coder 版 GGUF 发布，配合 Strata 运行时投影去除拒绝行为
alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Coder-Strata-GGUF，权重逐字节复制自 ISTA-DASLab 剪掉一半专家、以 3.5 bit 存储的 GSQ-RCO Coder 版本（下载 58.4 GB 对比 83.6 GB，ISTA 数据为原模型 91.3% 的 SWE-bench Verified 和 98.7% 的 LiveCodeBench v6）。作者的贡献是验证其此前发布的 480 KB 拒绝方向向量在剪枝模型上依然有效，并用 Niko1221 的 Strata 运行时以逐层投影方式去除拒绝。
推荐理由：作者实测了在剪枝版 Qwen3.8-Flash-Next 上运行时投影拒绝向量的实际效果，给出拒绝率和 KL 距离数据，方法可复用。
Hugging Face · 趋势模型精选AI 评分6363 
Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2
Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2，总参数 740M，将文本、图像、视频和音频统一映射到 768 维向量空间，采用 Apache 2.0 许可，设计面向手机和笔记本等消费级硬件。模型支持 100+ 语言，8K token 上下文，原生 MRL 截断到 128/256/512 维最多可省 6 倍向量存储，视觉与音频编码器可按需加载（纯文本 270M）。基准上 MTEB 多语言 61.36、代码任务较前代提升约 14%；模型卡还给出任务前缀、bfloat16 精度（禁用 float16）等部署最佳实践。
推荐理由：模型卡给出了各模态基准分数与 MRL 截断后的质量对照表，读者可据此评估在端侧 RAG 或检索场景中选哪个维度部署。
Hugging Face · 趋势模型精选AI 评分7171 
面壁 MiniCPM-V 4.7 35B-A3B 发布，系列首个 MoE 多模态模型支持端侧推理
面壁智能在 Hugging Face 开放 MiniCPM-V 4.7 35B-A3B，是 MiniCPM-V 系列首个 MoE 多模态模型。官方称借助 Lookahead Expert Scheduling、分层细粒度量化与 DSpark 投机采样，成为首个可无损流畅端侧运行的开源 MoE 模型，在 iPhone 17 Pro Max 上达到 13+ tokens/s；Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短。
推荐理由：原文给出 LES 预取、分层量化和推测采样三条技术路径，解释了 MoE 在设备端跑顺的原理与部署选择。
Hugging Face · 新模型：abliteratedAI 评分5050 
Qwen3.8-Flash-Next-Abliterated GSQ-RCO GGUF 量化版发布
Hugging Face 上发布 abliterated 版 Qwen3.8 Flash Next 的 GSQ-RCO 量化 GGUF（IQ3_XXS 源变体），共 2 个分片合计 83.14 GB，仅支持文本。实测生成速度约 21.13 tokens/s，比未修改的 ISTA IQ3_XXS 快约 31%，下载体积大 9.6%；MMLU 82.68%、GSM8K 86.72%、IFEval 85.16%、HumanEval 66.46%，质量等同尚未证实。仅供研究用途，需保留 Qwen Community License 1.0。
Hugging Face · 新模型：abliterated精选AI 评分6060 
Methane 发布 Qwen3.8-Flash-Next 去对齐版 GSQ-RCO 量化 GGUF 模型
Methane 在 Hugging Face 发布 Qwen3.8-Flash-Next 的去对齐版 GSQ-RCO 量化 GGUF 模型，保留 1,078 个 ISTA 张量，并对来自 windowsxp811203 去对齐检查点的 146 个 BF16 张量重新量化。实测生成速度约 31 tok/s，比未改动的 ISTA IQ3_XXS 快约 31%，下载体积大 9.6%；MMLU 82.68%、GSM8K 86.72%、strict IFEval 85.16%、raw HumanEval 66.46%，除编码外三任务平均变化 −0.66 个百分点，等质量尚未证实。
推荐理由：作者给出了与原 ISTA 量化的速度和四项基准对比数据，读者可据此评估这个去对齐量化版本的实际代价。
Hugging Face · 新模型：abliteratedAI 评分2828 
mradermacher 发布 Swift-1.5-Qwen3.8-27B-Abliterated 的 i1-GGUF 量化版本
mradermacher 在 Hugging Face 上发布 Swift-1.5-Qwen3.8-27B-Abliterated 的 i1-GGUF 量化模型，提供从 i1-Q2_K（11.0 GB）到 i1-IQ3_M（12.9 GB）等多种 imatrix 量化版本，并附 0.1 GB 的 imatrix 文件供用户自行量化。该模型为视觉模型，mmproj 文件放在 static 仓库中。
Hugging Face · 新模型：abliteratedAI 评分1818 mradermacher 发布 Swift-1.5-Qwen3.8-27B-Abliterated 的 GGUF 量化版本
Hugging Face 上线 mradermacher 制作的 Swift-1.5-Qwen3.8-27B-Abliterated GGUF 量化模型仓库。该模型基于 Qwen3.8 架构，参数规模 27B，采用 abliterated 去对齐处理，以 GGUF 格式提供，便于本地部署使用。
arXiv · cs.CL精选AI 评分5353 arXiv 论文提出免训练两阶段低秩补偿方法，改进大语言模型极端量化精度
arXiv 论文（https://arxiv.org/abs/2610.08164）提出免训练的两阶段闭式低秩量化误差补偿框架：Stage 1 以 Fisher 加权非对称目标将各层输出对齐全精度模型，Stage 2 在补偿后模型上做秩约束自然梯度步吸收剩余一阶信号，每个 adapter 只需一次截断 SVD。在 2 bit QuIP# 下，Qwen3-8B 的 WikiText-2 困惑度从 12.43 降至 10.26，Qwen3-4B 从 21.11 降至 13.22；在 C4 上相对最强基线（31%/63%）分别恢复 51% 和 84% 的到 FP16 的差距，并在更高位宽和另一量化器下保持增益。
推荐理由：论文指出既有低秩量化误差补偿的两个共同简化，并用两阶段闭式框架在 2 bit 极端量化下给出可复现的困惑度改进。
arXiv · cs.AIAI 评分3737 MemFLoRA：面向边缘 CNN 适配的记忆下限 LoRA
MemFLoRA 是一种以“激活记忆下限”准则为核心的低秩 CNN 适配器，冻结下投影、训练尺度匹配的上投影，使反向计算不依赖全宽层输入。在 3 个 HAR 数据集和 2 个 CNN 主干上，相比全量微调，其节省激活内存降低 98.5-98.7%，峰值训练状态内存降低 94.9-97.3%，且持平或超过 CNN PEFT 基线。该论文已被 ASP-DAC 2027 接收。
Hugging Face · 新模型：uncensoredAI 评分5050 blaj 发布 Qwen-Image-2.1-Uncensored 的 OpenVINO INT4 版本
blaj 在 Hugging Face 发布 Qwen-Image-2.1 Uncensored 的 OpenVINO INT4 量化版，将 abliterated 的 Qwen3-VL 文本编码器替换进原模型，总大小约 13 GB，可在 Intel Arc iGPU 上运行文生图。在 Core Ultra 7 258V 上 512x512、10 步生成耗时 12.9 秒（1.29 秒/步），峰值内存 7.1 GB；图像编辑（i2i）在 30 GB 内存下会耗尽内存，需 diffusers、optimum-intel 主分支及 OpenVINO 2026.5.0 nightly。
arXiv · cs.CLAI 评分4444 TRACE：面向 MoE 语言模型 FP4 强化学习的 Rollout 引导量化感知训练
研究者提出 TRACE，一个面向 MoE 语言模型 RL 训练的 FP4 量化框架，用 rollout 侧量化结果引导训练侧 FP4 舍入决策，直接缩小训练与 rollout 两条量化路径的差异。它还采用选择性保留尾数与 scale 信息的量化缓存方案以降低存储和通信开销。在四个大规模 MoE 模型的推理、编码和长程 RL 任务上，TRACE 实现 FP4 权重/激活与 FP4 KV-cache 联合 rollout，RL 性能与 BF16 rollout 相当，rollout 最高加速 5.4x，最终 FP4 性能优于 BF16 训练策略的事后 FP4 量化。
arXiv · cs.CLAI 评分4848 量化对 Llama 与 Qwen 工具故障恢复的影响因提示词与评测设计而异
一项 arXiv 研究比较了 Llama-3.1-8B-Instruct 和 Qwen2.5-7B-Instruct 的 8-bit 与 4-bit 量化版本在二十个确定性工具使用任务、五个提示词上的故障恢复表现。8-bit 与 4-bit 的恢复差异随提示词和评测目标改变方向：Llama 在同提示词下双版本无故障通过的任务上差异为 0 到 +20.2 个百分点，Qwen 为 -50.0 到 +35.0 个百分点。研究指出单一提示词、单一任务集和单一评分策略无法得出关于量化智能体稳健性的稳定结论。
arXiv · cs.CL精选AI 评分6262 arXiv 论文：三值语言模型导出时的 bf16 转换可抵消大部分低学习率代码改动
arXiv 论文（arXiv:2610.07853）审计 BitNet b1.58、Falcon-E、BitCPM 等三值语言模型的导出管线，发现潜在权重先转 bf16 的流程会翻转部分三值码：已发布检查点中 Falcon-E 与 BitCPM 有 0.83-1.77% 的码不一致，BitNet 2B-4T 为 1.530%。在低学习率微调端点，该导出使 Falcon-E-1B-Base 的 greedy GSM8K strict accuracy 从 58.79% 跌至 0.78%，BitCPM-CANN-0.5B 从 36.13% 跌至 0.39%；直接写入训练量化器的码或微调 bf16 输入两种补救方案均在三个模型上达到 4 点非劣性标准。
推荐理由：论文审计了三家实验室的导出管线，指出 bf16 转换会抵消低学习率微调的代码改动，并验证了两种补救方案。
Hugging Face · 新模型：uncensoredAI 评分2626 ReubenNewman 发布 Qwen3-4B-2507-Instruct-Uncensored Q8_0 GGUF 量化模型
ReubenNewman 在 Hugging Face 上架 Qwen3-4B-2507-Instruct-Uncensored 的 Q8_0 GGUF 量化版本。该模型可在 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner 等多种工具中运行，并支持通过 llama-server 或 vLLM 启动 OpenAI 兼容 API 服务。
Hugging Face · 新模型：uncensoredAI 评分2828 mradermacher/qwen3.5-9b-uncensored-GGUF 模型使用指南
Hugging Face 上 mradermacher/qwen3.5-9b-uncensored-GGUF 模型页面给出多框架使用方法，涵盖 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等工具，示例量化版本为 Q4_K_M。llama.cpp 可启动 OpenAI 兼容本地服务器并支持终端直接推理，vLLM 与 SGLang 均提供 OpenAI 兼容 API 调用方式。
Hugging Face · 新模型：uncensoredAI 评分1818 mradermacher/qwen3.5-9b-uncensored-i1-GGUF 模型在 Hugging Face 发布
mradermacher 在 Hugging Face 发布 qwen3.5-9b-uncensored 的 i1-GGUF 量化版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio 等工具本地运行，示例采用 Q4_K_S 量化，支持启动 OpenAI 兼容本地服务器或终端直接推理，也可接入 Pi、Hermes、OpenClaw 等 Agent 工具。
Hugging Face · 新模型：uncensoredAI 评分2626 GLM-5.3-Flash Uncensored 混合量化 GGUF 转换进行中
基于 orcarouter/GLM-5.3-Flash-Uncensored-FP8 的混合精度 GGUF 正在构建，权重尚未发布。该方案对常驻路径和首末路由层保留更高精度，最低用 IQ2_XXS，规划主模型加 MTP 约 85.870 GiB；原生上下文 1,048,576 tokens，需 antirez/ds4 配套运行时扩展，MIT 许可。
Hugging Face · 新模型：uncensoredAI 评分2020 Dimachaerus 发布 Qwen3.8-Flash-Next-Uncensored-QF-107GiB-GGUF 量化模型
Dimachaerus 在 Hugging Face 上发布 Qwen3.8-Flash-Next-Uncensored 的 GGUF 量化版本（107GiB，BF16），可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等工具本地运行，并支持 llama-server 启动 OpenAI 兼容 API 及接入 Pi、Hermes、OpenClaw 等智能体。
Hugging Face · 新模型：uncensoredAI 评分2626 Lygodactylus 发布 Qwen3.8-Flash-Next-Uncensored exl3 5bpw 量化模型
Lygodactylus 在 Hugging Face 上传 Qwen3.8-Flash-Next-Uncensored 的 exl3 5bpw 量化版本，模型参数量 43B，采用 BF16、F16、I16 张量类型，以 Safetensors 格式提供。该模型暂无模型卡，也未部署到任何 Inference Provider。
Hugging Face · 新模型：abliteratedAI 评分4242 Huihui-Qwen3.8-27B-Abliterated VAL-APEX-I-MiniPlus V2.1 GGUF 量化版发布
Huihui-Qwen3.8-27B-abliterated 模型的官方 VAL-APEX-I 量化版 MiniPlus V2.1 发布，体积 15.33 GB（3.93 BPW），WikiText-2 困惑度 6.1466，较 BF16 仅上升 2.44%，达到 Q5_K_M/Q6_K 边界质量。该版本在 24GB GPU 上支持完整 256K 上下文，192 个 DeltaNet SSM 状态张量保持 F32 无压缩，输出头采用 Q6_K 保护。另有 11.90 GB 的 NanoPlus 版本可在 16GB 硬件上运行。
Hugging Face · 新模型：abliteratedAI 评分4242 Huihui-Qwen3.8-27B-Abliterated VAL-APEX-I NanoPlus GGUF 量化版本发布
Huihui-ai 的 Huihui-Qwen3.8-27B-abliterated 模型推出 VAL-APEX-I NanoPlus 量化版，体积仅 11.90 GB（2.85 BPW），可在 16GB GPU 上运行，并支持 24GB GPU 跑满 256K 上下文。WikiText-2 困惑度为 6.4238，较 BF16 基线仅升 7.06%，达到 Q4_K_M 质量档。全部 192 个 DeltaNet SSM 循环状态张量保持 F32 无压缩，输出头采用 Q6_K 保障语法稳定性。
Hugging Face · 新模型：uncensoredAI 评分4646 
infosave 发布 Qwen-Image-2.1-Uncensored-CMF 单文件本地图像生成模型
infosave 在 Hugging Face 发布 Qwen-Image-2.1-Uncensored-CMF，这是面向 Cortiq 运行时的单文件图像生成模型，大小 12.745 GB、15.59B 参数，内含 DiT、文本/视觉编码器、VAE 和 tokenizer，支持 CPU、原生 Metal 和 Vulkan 路径。实测 RTX 4090 Vulkan f16 回退路径下 1024×1024、40 步端到端耗时 29.13 秒；上游 GGUF 版本无内置安全检查器，采用 Qwen 研究许可，仅限非商业研究用途。