Nathan512 发布 Qwen-Image-2.1-Uncensored GGUF 量化版
Nathan512 在 Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、Q8_0、Q6_K、Q4_K_M 等 12 种格式,体积 4.00–14.23 GB,推荐兼顾体积与质量的 Q4_K_M(约 4.60 GB)。
新闻、仓库与研究,按时间排列。
Nathan512 在 Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、Q8_0、Q6_K、Q4_K_M 等 12 种格式,体积 4.00–14.23 GB,推荐兼顾体积与质量的 Q4_K_M(约 4.60 GB)。
Hugging Face 用户 Aero2026 基于 Qwen/Qwen-Image-2.1 原始权重发布了无内容过滤的 GGUF 量化版本,可配合 ComfyUI 与 ComfyUI-GGUF 本地生成图像。提供 BF16 到 Q4_0 等多种量化,文件大小 4.15 GB 至 14.23 GB,推荐 Q4_K_M(4.60 GB)兼顾体积与质量;文本编码器 qwen3vl_8b 与 VAE 文件也打包在仓库内。该版本移除了内置安全检查器,可直接生成 NSFW 内容,采用 Qwen Research License。
mradermacher 在 Hugging Face 上发布 Qwen3.5-27B-uncensored-heretic-v1 的 imatrix 量化 GGUF 系列,提供从 i1-IQ1_S(7.2GB)到 i1-Q6_K(22.2GB)等多种规格,并附 0.1GB imatrix 文件供自行制量。
bjivanovich 在 Hugging Face 发布 Qwen3.8-27B-Uncensored-Cyber 的自定义 ATX GGUF 量化版本,在 blk.64 内嵌 MTP 草稿头,面向渗透测试、漏洞审计等进攻性安全与代码推理场景。
mradermacher 在 Hugging Face 发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 imatrix GGUF 量化版本,提供从 i1-IQ1_S(5.4GB)到 Q6_K(19.4GB)的多种量化档位。其中 Q4_K_S(13.6GB)被称为尺寸、速度与质量的最优平衡,Q4_K_M(14.4GB)为推荐选项,并单独提供 0.1GB 的 imatrix 文件供用户自行创建量化。
Hugging Face 上架 abliterated 版 GGUF 模型 jingamin/Qwen3.8-27B-ABLITERATED-BF16.i1-Q5_K_M.gguf(Q5_K_M 量化)。
jingamin 在 Hugging Face 上提供 Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking 的 i1-Q5_K_M GGUF 量化模型,该模型为无审查微调版本且支持思考(Thinking)。
abliterated 版 Huihui-Qwen3.8-27B 的 Q5_K 量化 GGUF 模型已在 Hugging Face 发布,基于 Qwen3.8 27B。该页面给出在 llama.cpp、Ollama、LM Studio、Docker Model Runner、Lemonade 等工具中的使用方法,可通过 llama serve -hf 启动本地 OpenAI 兼容服务器并直接推理。
nerkyor 在 Hugging Face 发布基于 Qwen3.8-27B-EfficientThink 的多轮 SFT 与 RLOO 后训练模型 Qwen3.8-27B-Coder390-EfficientThink,目标是修复原模型已有答案却反复推导直至撞上 94K 上限导致空答案的习惯。GPQA 178/198、MMLU 450/500、LCB 90/100(静态 FP8,原模型为 177/444/83),94K 截断从 GPQA 4 降到 1、LCB 13 降到 3。仓库提供 BF16、静态 FP8、NVFP4、INT8、INT4、GGUF Q2 至 Q8_0 等多档权重,均含内置 MTP,支持 SGLang 免补丁加载,并给出 DFlash2 与 MTP 两种投机解码的测速建议。
推荐理由:从模型卡给出多档量化的完整三套评测与截断对比,读者可据此判断修复后模型在精度和速度上的实际表现。
Hugging Face 上架了 jingamin 的 gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking 量化版 GGUF 模型(Q5_K_M)。
Gokugamer 在 Hugging Face 发布 Qwen3.8-27B 的 HauhauCS Aggressive 无对齐 GGUF 量化版,实测 0/465 次拒绝,直接作答、几乎无前导语。
推荐理由:原文给出各量化的拒绝数与 FastMTP 加速实测数据,读者可据此判断该去对齐版本的实际表现。
mradermacher 在 Hugging Face 上发布 Qwen3.5-27B-uncensored-heretic-v1 的 GGUF 静态量化版本,提供从 Q2_K(10.8GB)到 Q8_0(28.7GB)的多种量化文件,其中 Q4_K_S(15.7GB)和 Q4_K_M(16.6GB)被标注为快速且推荐,Q8_0 质量最佳。
MarMix 在 Hugging Face 上架 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors-NVFP4 模型,采用 Safetensors 格式,参数规模 36B,张量类型为 BF16 · U8。该模型目前未被任何 Inference Provider 部署,README 内容为空。
mradermacher 的 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors GGUF 量化模型现已在 Hugging Face 上线。
Hugging Face 新增模型 AX1Y2JP/UniPercept-abliterated-GGUF,提供 Q4_K_M 量化版本。该 GGUF 格式模型可通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具本地运行,也支持在 LM Studio、Jan 中加载。llama.cpp 可启动 OpenAI 兼容的本地服务器并提供 Web UI,也可直接在终端执行推理。
mradermacher 在 Hugging Face 上发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 GGUF 静态量化版本,提供从 Q2_K(9.0GB)到 Q8_0(25.2GB)的多种规格,其中 Q4_K_S、Q4_K_M 标注为快速且推荐使用,Q8_0 质量最佳。weighted/imatrix 量化版本可在模型页面另行获取。
Hugging Face 上线 mradermacher/Qwen3.8-cyber-RedTeam-Surgical-Abliterated-GGUF 量化模型页面,提供 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种运行方式。
mradermacher 在 Hugging Face 上发布 Qwopus3.8-27B-Flash-V2-abliterated 的 i1-GGUF 量化版本。
ausboss 在 Hugging Face 发布 Qwen-Image-2.1-Outfit-Swap-Consistency-LoRA,让 Qwen Image 2.1 在把图片 2 的服装穿到图片 1 人物身上时保持画面原位。在 16 个未训练过的换装样本上,结果偏离从无 LoRA 的 3.6 px 降到 0.1 px,面部明显变化像素从 14.1% 降到 1.7%,背景从 10.8% 降到 0.9%;提供 step 1000/1250/1500 三个权重文件,主推 step 1000,rank 32,用 ostris/ai-toolkit 以 66 对样本训练 1500 步。不改变服装绘制质量,且保持原有姿势,需要换姿势的服装不适用。
推荐理由:作者用 16 个未训练过的换装样本给出位移、面部和背景像素级对比,读者可据此判断这个 LoRA 值不值得装进自己的 ComfyUI 工作流。
mradermacher 在 Hugging Face 发布 Qwen3-4B-F32-BF16-3MPER0RR-abliterated 的 imatrix 加权 i1-GGUF 量化系列,共 20 余个版本,大小从 1.2GB(i1-IQ1_S)到 3.4GB(i1-Q6_K)不等,并提供 0.1GB 的 imatrix 文件供用户自行创建量化。
mradermacher 在 Hugging Face 发布 Qwen3-4B-F32-BF16-3MPER0RR-abliterated 的静态 GGUF 量化版本,提供从 Q2_K(1.8GB)到 f16(8.2GB)的多档量化文件,其中 Q4_K_S、Q4_K_M 被标注为快速推荐档位,Q8_0 为最高质量档位,weighted/imatrix 量化另有单独发布。
calclout 在 Hugging Face 上传了 Qwen3.8-Flash-Next-Abliterated 的 AWQ W4A16 量化模型,模型规模为 72B 参数,采用 Safetensors 格式,张量类型包含 I32、BF16 和 I64。该模型暂无模型卡,上月下载量为 11,且尚未被任何 Inference Provider 部署。
mradermacher 在 Hugging Face 发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 imatrix 加权 i1-GGUF 量化版本,提供从 i1-Q2_K(80.5GB)到 i1-Q6_K(167.7GB)的多档量化文件,其中 i1-Q4_K_M 为推荐档位,i1-Q4_K_S 兼顾体积、速度与质量。
Ai2 开源了基于 Qwen3-8B 的科研报告生成模型 AstaBrief 8B 及训练数据,模型可将研究问题和检索到的文献片段转化为带引用的报告,已在 Asta 平台作为 Fast mode 上线。
推荐理由:官方完整披露了 SFT 与 DPO 数据构建、引用密度过滤和评测细节,读者可复用其数据质量过滤方法。
SC117 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过对已量化 GGUF 做 144 个残差流投影张量的字节级移植实现去拒绝,不重算任何 GSQ 学到的量化值。IQ3_S 版经逐张量 blake2b 校验,1223 个张量中 1079 个与上游逐字节一致,decode 速度仅降 0.1%,四个量化档位体积仅比上游多 0.25 至 0.44 GB,行为抽查显示上游拒答的绕过付费墙请求该版本会详细回答。作者提示模型无内置安全护栏,需自行部署审核与访问控制。
推荐理由:作者用逐张量 blake2b 校验和性能对照说明直接移植已量化张量做消融的代价,方法可复用到其他 GGUF 模型。
EMA Lightning 是一个开源(Apache 2.0)的土耳其语文本转语音模型,由 5.6M 参数 DiT 声学模型和 3M 参数 vocoder 组成,总计仅约 34 MB。在 Freya-TR-Eval 上 WER 为 0.92%,低于 ElevenLabs v4、Gemini 3.8 和 2.38B 参数的 Trendyol-TTS 等所有被测系统;在 RTX 4090 上首批音频仅需 3.86 ms,比实时快 440×(批处理达 1,316×)。模型可完全离线运行于 GPU 或 CPU,无需 API key,文本和音频不离开本机,成本约 $0.0085 per million characters。
Cactus Compute 团队发布面向手机、可穿戴、机器人、智能家居、汽车和微控制器的端侧语音识别模型 Whistle,整个模型为单个 16.9 MB 文件,无需 GPU 和外部依赖,与 Needle 共用同一运行时。支持英德法西意荷波七种语言的转写(单次最长 30 秒)、词级时间戳和语音嵌入,静音返回空文本而非编造句子。WER 基于 86,174 条语音实测,并用与 Whisper、Moonshine 已发布数据对比;精度为 Whistle 2 至 4 bit,Whisper fp32,Moonshine int8。
推荐理由:原文给出了完整的 WER 基准、精度设置和与 Whisper、Moonshine 的对比口径,读者可以据此评估端侧语音识别的实际表现。
NVIDIA 发布开放权重的表格数据基础模型 Kumo Tabular,基于人工生成的表格预训练,单次前向传播即可完成分类和回归预测,无需训练、调参或特征工程,提供 28M 至 215M 参数的三个尺寸,采用 OpenMDW-1.1 许可证可商用。
推荐理由:官方给出了模型架构、人工数据预训练配方和四大榜单的具体名次与 ELO 数字,读者可据此评估这一表格基础模型的实际水平。
Hcompany 发布 Holo4 系列智能体模型,含 27B dense 和 35B-A3B MoE 两种规格,并同时发布基于 NVIDIA Nemotron 3 Nano Omni 的 Holotron4 Nano。
推荐理由:官方公布了 OSWorld 2.0 与 AutomationBench 的分数、成本对比和完整轨迹数据,读者可以自行回放验证各步骤表现。
LiquidAI 发布视觉语言模型 LFM2.5-VL-3B 的实验性 DSpark 草稿模型,通过投机解码在不改变输出质量的前提下换取推理提速。解码加速在端侧最高 3.13x、H100 上最高 2.66x,端到端延迟分别提升 1.56x-2.62x 和 1.64x-2.27x;草稿模型约 280M 参数,仅增加 8.9% 参数量。
推荐理由:原文给出4层注意力 drafter 的结构与分任务实测加速数据,并解释预填充阶段为何限制端到端收益。
复旦大学、腾讯混元与浙江大学团队发布 Prism,一个面向 2K 分辨率原生视频音频联合生成训练的动态稀疏注意力框架,相比全注意力训练提速 2.5 倍且生成质量更高。项目页、训练/推理代码、技术报告与 preview 模型权重已在 Hugging Face 开放,预览模型支持 720p、1080p 和 2K 原生联合生成,训练需 32 至 64 张 NVIDIA 80 GB GPU,技术报告为 arXiv:2610.05416。
推荐理由:项目放出了预览权重并完整公开训练与推理代码,还给出各分辨率的 GPU 需求,便于读者评估复现成本。
Google DeepMind 在 Hugging Face 开源 EmbeddingGemma 2,一个 740M 参数的多模态嵌入模型,将文本、代码、图像、视频和音频统一映射到 768 维向量空间,支持 100+ 语言和 8K token 上下文。模型采用 MRL 支持截断到 128d 至 512d,可在 256d 内接近无损地降低向量存储成本,并允许按需加载视觉(170M)与音频(300M)编码器;文本编码基准 MTEB code 得分 78.68,较一代的 68.76 明显提升。
推荐理由:官方模型卡给出各维度基准分数、MRL 截断表和部署配置,对想在端侧做多模态检索的开发者是可落地的选型参考。
NVIDIA Nemotron 3.5 Lightning 现已可在 Ollama 上下载并完全在本地设备运行。该模型为 30B 总参数、每 token 仅 3B 激活的混合 MoE 架构,面向长时运行的 Agent 任务,支持最高 1M token 上下文,通过 MTP、DFlash 或 DSpark 投机解码实现最高 4x 于同类开放模型的吞吐,任务完成时间快 30%。
推荐理由:原文给出了 MoE 架构、1M 上下文和 4x 吞吐等具体配置与对比数据,读者可据此评估其本地 Agent 部署价值。