Cloudflare 开源 27B 多模态决策模型 Clef
Cloudflare 在 Hugging Face 开源决策模型 Clef,从 Qwen3.8-27B 后训练而来,以单次前向传播对 schema 化问题逐选项输出概率,无自由文本生成与输出解析,支持文本、JSON、图片和视频输入。
推荐理由:原文附上 Decision Index 与 Jev 等基线的逐项对比和延迟数据,可据此评估该决策模型在不同任务上的取舍。
新闻、仓库与研究,按时间排列。
Cloudflare 在 Hugging Face 开源决策模型 Clef,从 Qwen3.8-27B 后训练而来,以单次前向传播对 schema 化问题逐选项输出概率,无自由文本生成与输出解析,支持文本、JSON、图片和视频输入。
推荐理由:原文附上 Decision Index 与 Jev 等基线的逐项对比和延迟数据,可据此评估该决策模型在不同任务上的取舍。
ML_Iterator_Dare2Dream 是一款免费的开源访谈辅助应用,用 AI 算法协助访谈并提供实时摘要,内置 Q&A 机器人可探索研究数据。支持 Windows 10+、macOS Mojave+ 和 Linux,要求 4 GB 内存与 100 MB 空间;数据默认本地存储。
RoshanNandasana 开源了法律文档分析应用 Legal-Document-Analyzer-LegalAI,支持上传 PDF/DOCX 合同,提取文档类型、当事方、关键条款(按 Attention/Review/Standard 分级),并用 NER 和 TF-IDF 抽取实体与关键词。
axi0mX 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored-GGUF 模型,默认量化版本为 Q5_K_XL。模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具本地运行,llama.cpp 还提供带 Web UI 的 OpenAI 兼容本地服务器,也可接入 Pi、Hermes Agent、OpenClaw 等 Agent 工具使用。
hmkle 在 Hugging Face 发布 Qwen3.5-4B Abliterated 的静态 GGUF 量化版本,提供从 Q2_K 到 Q8_0 及 f16 的多种规格,大小从 1.9GB 到 8.5GB 不等。其中 Q4_K_S 和 Q4_K_M 标注为快速推荐选项,Q8_0 质量最佳,并附带 mmproj 多模态补充文件;weighted/imatrix 量化可另行获取。
AEON-7 将其无审查版 Qwen3.8-27B 量化为 OCP Microscaling 格式以适配 AMD GPU:MLP 用 MXFP4、Gated DeltaNet 投影用 MXFP6,其余保持 BF16,checkpoint 为 23.7 GB(BF16 原版 55.6 GB),支持 262,144 token 原生上下文。
用户 laazuri 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的无审查 GGUF 量化版本,提供 BF16 到 Q4_0 等多种量化文件,体积从 14.23 GB 到 4.15 GB 不等,其中 Q4_K_M 被推荐为体积与质量的最佳平衡。仓库同时打包 ComfyUI 所需的 text encoder(qwen3vl_8b)和 VAE 配套文件,需配合 leejet 的 ComfyUI-GGUF fork 使用。该版本无内置安全检查器或内容过滤,可直接生成成人及 NSFW 内容,采用 Qwen Research License 授权。
Anotos 将 huihui-ai 的 abliterated(去审查)版 Liquid AI LFM2 8B-A1B 转换为 MLX 4-bit 量化模型,面向 Apple Silicon。该模型为 MoE 架构,总参数 8.3B、每 token 激活约 1.5B,文件 4.69 GB,专家路由门控保留 8 bit,需 mlx-swift-lm 3.31.4 及以上版本。模型已移除安全护栏,不内置入 Erato 应用,需手动添加,采用 LFM Open License v1.0 许可。
root4k 在 Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 oQ4e-mtp 量化版本,采用 oQ(oMLX v0.7.0)混合精度量化。模型类型为 qwen4_exp,4 bit、group size 64,格式为 MLX safetensors。
Dacheng-cn 基于 OrcaRouter 源模型的原始 BF16 权重重新量化出 Qwen3.8-27B-Uncensored oQ8e FP16 版本,权重约 30.92 GB,保留 MTP 的 29 个 Tensor,在 M1 Ultra 上使用 oMLX 0.7.0 正式版测试。
fyb1214 将 huihui-ai 的 abliterated Ternary-Bonsai-2-27B(消融第 22–52 层)重新封装为 NInfer 引擎可读的单文件 .ninfer 容器,基于 f16 版本用量化器重制 PQ2_0 与 PTQ1_0 两种打包,各 6.87 GiB,类型分布与 PrismML 原版 PQ2_0 一致。
HauhauCS 发布 Qwen3.8-27B-Uncensored-Aggressive 的 imatrix 优化 NVFP4 量化版本(Q5_NVFP4),体积从 Q5_K_P 源文件的 18.83 GiB(5.92 BPW)降至 14.74 GiB(4.63 BPW),约缩小 22%。该版本保留了原生 MTP/NextN 头、视觉能力和完整 Aggressive 去审查配置,LM head(output.weight)首次做了 imatrix 优化。模型针对 Blackwell(sm_120)GPU 原生加速构建,但文件为标准 GGUF,可在任意当前 llama.cpp 版本上加载。
ericmey 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 GPTQ-Int4(sym, G128)量化版,附带 BF16 MTP 草稿张量与 F16 视觉塔,约 19 GB,面向 vLLM Intel Arc XPU 部署,也可加载于 CUDA。
shamidk 在 Hugging Face 上发布了 Apex Flash 1 abliterated 的纯文本 GGUF 转换版,采用 IQ2_XXS 与 Q2_K 混合量化配方,文件 89.88 GiB、含 1,412 个张量,省略视觉权重。作者在 128 GiB 内存的 Apple M5 Max MacBook Pro 上用 DS4 runtime 实测,解码速度中位数 11.13 tokens/s,有界质量测试 3/4 通过、严格类型化工具测试 34/36 通过;作者明确说明 abliteration 只针对拒绝行为,不代表能力提升,Agent 编码交付、视觉权重、更大上下文和与 BF16 的质量对等均未验证。转换版以 MIT 许可分发。
推荐理由:这是一次量化转换加实测记录,作者给出了具体推理速度、质量测试结果和明确的未验证范围,便于读者自行评估可用性。
4B 参数的无审查模型 NeoHorse-1-4B-Uncensored-Zero-Refusal-GGUF 以 GGUF 格式(F16)在 Hugging Face 上线。页面提供了 llama.cpp、Ollama、Docker Model Runner、Lemonade 等多种本地运行方式的安装与启动命令,也可接入 Pi、Hermes、OpenClaw 等 Agent,或通过 llama.cpp 启动 OpenAI 兼容的本地服务器并附带 Web UI。
Hugging Face 上发布了 Cantina Security 的 Apex Flash 1 Abliterated 的 AWQ 社区量化版,采用 GLM-5.3-Flash 架构,为专家专用 W4A16 量化(对称 INT4,group size 128),保留全部 36,288 个 routed expert projections。模型逻辑参数 313.89B,九个 Safetensors 分片约 176 GB,属实验性发布,已在修补版 GLM-5.3 SM86 vLLM 构建上通过文本生成和结构化 tool-call 冒烟测试,但长上下文、视觉等行为未经验证。上游 abliterated 版本会修改拒绝行为,仅面向获授权研究,采用 MIT 许可证。
mradermacher 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Final 的 imatrix 加权量化 GGUF 版本,提供从 i1-Q2_K(13.3GB)到 i1-Q6_K(29.3GB)的多种规格,其中 i1-Q4_K_S 被标注为尺寸、速度与质量的最佳平衡,i1-Q4_K_M 快速且推荐。静态量化存放在另一仓库,mmproj 文件也在该静态仓库中。
Hugging Face 上线 Sica-Quants-1 发布的 Qwen-Image-2.1-Uncensored-GGUF 模型。该模型基于 7B 参数架构,提供 4-bit、5-bit、6-bit、8-bit 和 16-bit 多种量化版本,暂未附带模型卡片,上月下载量尚未统计。
Reddit r/LocalLLaMA 用户汇报 AliceAI-80B-A3B-Base 的 instruct 微调进展:第 1 轮 SFT 完成,模型初步学会链式推理和对话,但 500 万 token 训练数据广度不足,checkpoint #1 严重欠拟合并暂不发布。
Hugging Face 用户 natsuto999 发布了基于 Qwen/Qwen-Image-2.1 上游权重的无审查 GGUF 量化版本,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)等多档量化文件,推荐 Q4_K_M 以平衡体积与质量。该版本移除内置安全检查器,可直接生成成人及 NSFW 内容,输出取决于输入提示词与运行环境。模型可配合 ComfyUI 与 ComfyUI-GGUF 本地运行,文本编码器可卸载到系统内存以节省 9–17 GB 显存,许可证为 Qwen Research License。
fyb1214 将 huihui-ai 的 Huihui-Qwen3.8-27B Abliterated Swift-1.5 GSQ-RCO GGUF 系列重新打包为 NInfer 引擎可用的单文件 .ninfer 容器,共发布 IQ2_XS、IQ2_S、IQ3_XXS、IQ3_S 四个量化档位,文件从 8.76 GiB 到 11.91 GiB 不等,其中 IQ3_S 档需要 16 GB 以上显存或卸载。该仓库仅做格式转换,abliteration(第 22–52 层去拒绝方向消融)由 huihui-ai 完成,文本塔无重新量化或再训练。模型仅在 Hugging Face 发布,安全过滤大幅降低,仅建议用于研究和受控环境。
TokenTinkerer 基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 发布了 TTQ 十档 GGUF 量化集,从 3.33 bpw 到 6.72 bpw,全部从上游 Q8_K_P 用自建 imatrix 重量化。每档以同一机器同一协议实测 KLD/RMS 与 llama-bench 速度,每档 KLD 均优于上游仓最接近尺寸的量化 1.26× 到 3.51×,同质量档位小 1.44 到 7.90 GiB,匹配对比下 decode 快 6% 到 19%、prefill 快 28% 到 80%。
推荐理由:作者用同一协议实测十档量化的KLD、体积与速度,并给出与上游仓位的逐项对照,读者可按显存和用途挑选合适的档位。
Hugging Face 用户 GSsmart 发布 Wan2.2 GSsmart Uncensored,一套同时适配 I2V 与 T2V 的无审查 LightX2V LoRA,免去在两类模型间反复切换。T2V 下人体准确率约 80–85%,I2V 效果取决于输入图像;叠加其他 LoRA 建议用 0.55–0.65 强度,本 LoRA 需保持接近满强度否则画面易模糊。
nyaaorick 在 Hugging Face 发布 Qwen3.8-27B-Uncensored 的 MLX 3-bit 混合精度量化版本,面向 Apple Silicon,磁盘占用 9.82 GB,平均每位权重 2.915 bit,短提示峰值内存约 10.5 GB。
Hugging Face 用户 Aero2026 基于 Qwen/Qwen-Image-2.1 原始权重发布了无内容过滤的 GGUF 量化版本,可配合 ComfyUI 与 ComfyUI-GGUF 本地生成图像。提供 BF16 到 Q4_0 等多种量化,文件大小 4.15 GB 至 14.23 GB,推荐 Q4_K_M(4.60 GB)兼顾体积与质量;文本编码器 qwen3vl_8b 与 VAE 文件也打包在仓库内。该版本移除了内置安全检查器,可直接生成 NSFW 内容,采用 Qwen Research License。
mradermacher 在 Hugging Face 上发布 Qwen3.5-27B-uncensored-heretic-v1 的 imatrix 量化 GGUF 系列,提供从 i1-IQ1_S(7.2GB)到 i1-Q6_K(22.2GB)等多种规格,并附 0.1GB imatrix 文件供自行制量。
bjivanovich 在 Hugging Face 发布 Qwen3.8-27B-Uncensored-Cyber 的自定义 ATX GGUF 量化版本,在 blk.64 内嵌 MTP 草稿头,面向渗透测试、漏洞审计等进攻性安全与代码推理场景。
mradermacher 在 Hugging Face 发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 imatrix GGUF 量化版本,提供从 i1-IQ1_S(5.4GB)到 Q6_K(19.4GB)的多种量化档位。其中 Q4_K_S(13.6GB)被称为尺寸、速度与质量的最优平衡,Q4_K_M(14.4GB)为推荐选项,并单独提供 0.1GB 的 imatrix 文件供用户自行创建量化。
Hugging Face 上架 abliterated 版 GGUF 模型 jingamin/Qwen3.8-27B-ABLITERATED-BF16.i1-Q5_K_M.gguf(Q5_K_M 量化)。
jingamin 在 Hugging Face 上提供 Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking 的 i1-Q5_K_M GGUF 量化模型,该模型为无审查微调版本且支持思考(Thinking)。
abliterated 版 Huihui-Qwen3.8-27B 的 Q5_K 量化 GGUF 模型已在 Hugging Face 发布,基于 Qwen3.8 27B。该页面给出在 llama.cpp、Ollama、LM Studio、Docker Model Runner、Lemonade 等工具中的使用方法,可通过 llama serve -hf 启动本地 OpenAI 兼容服务器并直接推理。
nerkyor 在 Hugging Face 发布基于 Qwen3.8-27B-EfficientThink 的多轮 SFT 与 RLOO 后训练模型 Qwen3.8-27B-Coder390-EfficientThink,目标是修复原模型已有答案却反复推导直至撞上 94K 上限导致空答案的习惯。GPQA 178/198、MMLU 450/500、LCB 90/100(静态 FP8,原模型为 177/444/83),94K 截断从 GPQA 4 降到 1、LCB 13 降到 3。仓库提供 BF16、静态 FP8、NVFP4、INT8、INT4、GGUF Q2 至 Q8_0 等多档权重,均含内置 MTP,支持 SGLang 免补丁加载,并给出 DFlash2 与 MTP 两种投机解码的测速建议。
推荐理由:从模型卡给出多档量化的完整三套评测与截断对比,读者可据此判断修复后模型在精度和速度上的实际表现。
Hugging Face 上架了 jingamin 的 gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking 量化版 GGUF 模型(Q5_K_M)。
mradermacher 在 Hugging Face 上发布 Qwen3.5-27B-uncensored-heretic-v1 的 GGUF 静态量化版本,提供从 Q2_K(10.8GB)到 Q8_0(28.7GB)的多种量化文件,其中 Q4_K_S(15.7GB)和 Q4_K_M(16.6GB)被标注为快速且推荐,Q8_0 质量最佳。
MarMix 在 Hugging Face 上架 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors-NVFP4 模型,采用 Safetensors 格式,参数规模 36B,张量类型为 BF16 · U8。该模型目前未被任何 Inference Provider 部署,README 内容为空。
mradermacher 的 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors GGUF 量化模型现已在 Hugging Face 上线。
Hugging Face 新增模型 AX1Y2JP/UniPercept-abliterated-GGUF,提供 Q4_K_M 量化版本。该 GGUF 格式模型可通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具本地运行,也支持在 LM Studio、Jan 中加载。llama.cpp 可启动 OpenAI 兼容的本地服务器并提供 Web UI,也可直接在终端执行推理。
mradermacher 在 Hugging Face 上发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 GGUF 静态量化版本,提供从 Q2_K(9.0GB)到 Q8_0(25.2GB)的多种规格,其中 Q4_K_S、Q4_K_M 标注为快速且推荐使用,Q8_0 质量最佳。weighted/imatrix 量化版本可在模型页面另行获取。
Hugging Face 上线 mradermacher/Qwen3.8-cyber-RedTeam-Surgical-Abliterated-GGUF 量化模型页面,提供 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种运行方式。
mradermacher 在 Hugging Face 上发布 Qwopus3.8-27B-Flash-V2-abliterated 的 i1-GGUF 量化版本。