跳到正文
10月9日周五
  1. Hugging Face · 新模型:abliterated69

    hotdogs 发布 Ternary Bonsai 2 27B 去对齐合并版,约7.6GB 单卡可跑

    hotdogs 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-PQ2_0-MTP,基于 BoldingBuilds 的去拒绝 v2 版,以 0.4 scale 合并 Swift 去对齐与 ThinkingCap 省 token 推理两个 SVD-LoRA。模型采用 PQ2_0 三元量化(约2.13 bits/weight),27.3B 参数仅约 7.6 GB,支持 262,144 token 上下文、视觉输入和 MTP 投机解码。仅能通过 PrismML 的 llama.cpp fork 加载,主线程 llama.cpp、Ollama 和 LM Studio 均不支持。

    推荐理由:原文给出abliteration的张数、MMLU损失和各LoRA保留能量,合并构建的局限与适用范围都写得很透明。

  2. Hugging Face · 新模型:abliterated21

    mradermacher 发布 Ostrich-27B-261008-Qwen3.8-Abliterated GGUF 量化版本

    mradermacher 在 Hugging Face 发布 Ostrich-27B-261008-Qwen3.8-Abliterated 的静态 GGUF 量化版本。提供多种量化格式,其中 Q4_K_S 为 15.9 GB、速度快且被推荐,另含 mmproj-Q8_0(0.7 GB)与 mmproj-f16(1.0 GB)多模态补充文件;weighted/imatrix 量化暂未提供,用户可通过 Community Discussion 申请。

  3. Hugging Face · 新模型:abliterated21

    hotdogs 发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-pq2_0-gguf GGUF 模型

    hotdogs 在 Hugging Face 上发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-pq2_0-gguf,提供 Q2_0 量化格式的 GGUF 权重。该模型可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或直接推理,也支持 Docker、Ollama、LM Studio、Jan、Pi、Lemonade、Hermes Agent、OpenClaw 等工具加载运行。

  4. Hugging Face · 新模型:abliterated33

    ThinkingCap-Qwen3.8-27B-abliterated UD-Q4_K_XL GGUF 量化版发布

    groxaxo 在 Hugging Face 发布 ThinkingCap-Qwen3.8-27B-abliterated 的 UD-Q4_K_XL GGUF 量化版,共 866 个张量,直接从 BF16 checkpoint 转换并采用 Unsloth 的张量布局与 imatrix。附带独立 MTP draft、视觉 mmproj 和 chat_template.jinja,支持 llama.cpp 的 --spec-type draft-mtp 投机解码、enable_thinking 以及 low/medium/xhigh 推理力度。模型采用 PolyForm Small Business License 1.0.0,仓库声明不提供新的质量基准。

  5. Hugging Face · 新模型:abliterated64

    Maximilian228 发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 NVFP4 GPTQ 量化包

    Maximilian228 在 Hugging Face 发布了 huihui-ai 消融版 Qwen3.8-Flash-Next 的 NVFP4 量化包,全部路由专家用 GPTQ(而非 RTN)从 BF16 检查点量化,可在单张 RTX 20-50 显卡(12 GB 以上显存、64 GB 以上内存)上通过 Strata NVFP4 运行 125B 混合 MoE。在留出 token 上,GPTQ 的加权相对误差为 RTN 的 33.5%,48 层全部优于 RTN;实测 182.8 tok/s 解码、2810 tok/s prefill,解码成本与 RTN 持平。

    推荐理由:原文给出完整的 GPTQ 量化方法和 48 层误差对比数据,读者可以据此评估 NVFP4 消融模型的精度与部署成本。

  6. Hugging Face · 趋势模型60

    Cloudflare 开源 30B-A3B 多模态 MoE 模型 Clef-Omni

    Cloudflare 在 Hugging Face 发布 Clef-Omni,一个 30B-A3B 的 MoE 多模态模型,从 Qwen/Qwen3-Omni-30B-A3B-Instruct 后训练而来,把状态与类型化问题 schema 在单次前向中转为每个选项的概率,不做自由文本生成和输出解析。模型支持文本、JSON、图像、音频、视频输入,附联合 schema head 与 Jev/SystemOne 兼容 API,Apache-2.0 协议,bfloat16 下骨干约需 64 GB 显存。官方给出 Decision Index 0.2.1 内部跑分,如 BFCL 98.2、MMLU 92.7、GPQA Diamond 47.4,以及四条业务工作流的决策准确率。

    推荐理由:官方同时放出权重、加载代码和 Decision Index 0.2.1 逐项跑分,可对照 Clef 系列与 Jev 评估其决策型输出路线。

  7. Hugging Face · 新模型:uncensored75

    OrcaRouter Qwen3.8-Flash-Next-Uncensored 发布 GPTQ 量化 NVFP4 权重包

    Maximilian228 在 Hugging Face 发布 OrcaRouter Qwen3.8-Flash-Next-Uncensored 的 NVFP4 (GPTQ) 量化包,供 Strata NVFP4 引擎在单张 12 GB 以上 VRAM 的 RTX 20-50 显卡加 64 GB 内存上运行这个 125B 混合 MoE 模型。模型为 abliterated 去对齐微调,权重中移除了拒绝方向,不拒绝有害请求。作者用 GPTQ 从 BF16 checkpoint 重量化全部路由专家, held-out 误差为 ModelOpt RTN 量化的 33.4%,48 层全部低于 RTN,解码速度与 ModelOpt 包基本持平(约 185.6 对 191.6 tok/s)。

    推荐理由:作者给出完整的 GPTQ 重量化方法和逐层误差对比,NVFP4 去对齐版相对 ModelOpt 量化把误差降到约三分之一。

  8. Hugging Face · 趋势模型72

    Underdog 发布 Saluki 27B 量化版,7.89GB 跑通 Qwen3.8-27B 并保留工具调用

    Underdog 在 Hugging Face 发布 Underdog-Saluki-27B-1.0,基于 Qwen3.8-27B 的 GGUF 量化版,仅 7.89GB(全尺寸 54GB),可在标准 llama.cpp 上运行。Underdog Bench 上工具调用 88/120,超过全尺寸模型的 84;并行工具调用 42 对 35,9 项基准平均保留 96%。竞赛数学保留约 82% 到 85%,弱点在字母级指令谜题,部分并行调用回复有小格式错误;可选 0.6 到 0.9GB 的 mmproj 文件添加视觉能力,Apache 2.0 许可。

    推荐理由:原文给出与全尺寸模型同 harness 的工具调用和基准对比数据,读者可以据此判断这个 8GB 量化版本到底保住了多少能力。

  9. Hugging Face · 新模型:uncensored40

    Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 版本发布,0/465 拒答

    HauhauCS 基于 Qwen3.6-35B-A3B 发布无审查 Aggressive 版本,测得 0/465 拒答,数据集与能力无改动。模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生支持 262K 上下文和文本、图像、视频多模态,并提供 Q8_K_P 到 IQ2_M 多档 GGUF 量化(含 K_P 自定义量化),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  10. Hugging Face · 新模型:uncensored24

    mradermacher/Gemma-3-Uncensored_v2-merged-GGUF 模型在 Hugging Face 上发布

    mradermacher 在 Hugging Face 上发布 Gemma-3-Uncensored_v2-merged-GGUF 模型,提供 Q4_K_M 量化版本。用户可通过 llama.cpp 在 macOS、Linux、Windows 上以 `llama serve -hf` 启动本地 OpenAI 兼容服务器(含 Web UI),或用 `llama cli` 在终端直接推理。该模型也支持预编译二进制、源码编译和 Docker 运行。

  11. Hugging Face · 新模型:uncensored37

    Connect AI Lab 发布 Qwen3-0.6B 实验性“去审查方向移除”模型 Uncensored

    Connect AI Lab 基于 Qwen3-0.6B 制作了一个实验性方向移除模型 Uncensored:通过激活值差异选出第 24 层方向,修改 57 个写入路径,修改后权重约 0.75B。在 CPU FP32 测试中,原始模型拒绝短语匹配 4/4,修改版本为 0/4,但作者明确说明这只是课堂实验,并非所有拒绝都被解除。权重尚未开放下载,准备的 GGUF 文件约 805 MB,已在 LM Studio 中验证可加载并运行 API。

  12. Hugging Face · 新模型:uncensored77

    jakeatx 发布 Swift 1.5 Qwen3.8-27B 无审查版 2.3bpw GGUF 量化,面向 12 GB 显卡

    jakeatx 发布 ATX-Swift-1.5-Qwen3.8-27B-Uncensored-2.3bpw-MTP GGUF 量化版,基于 UkisAI 的 Swift 1.5(构建于 Qwen3.8-27B)的 uncensored BF16 checkpoint 重编码为约 2.3 bits per weight,含 MTP 草稿层,面向 12 GB 显卡约 200K 上下文。

    推荐理由:发布者给出了拒绝率降低说明、KL 散度和 LiveCodeBench 实测对比,读者可以据此判断这个 2.3 bpw 极致量化在 12 GB 显卡上的实际表现。

  13. Hugging Face Blog70

    Hugging Face 博客:如何用 ML Intern 以约 103 美元自制 7 个小模型

    作者用 HuggingChat 里的 ML Intern 在几天内自制了 7 个开源模型(含 citrus-disease-vlm-instruct、Huggy LoRA、Pocket rewriter 0.8B、Agate 4-step 等),总算力成本约 103 美元。文中公开全部提示词(GitHub 仓库 yvrjsharma/ml-intern-prompts),并总结了三条关键写法:让 Agent 先报基线再训练、先跑小规模冒烟测试、设定预算上限并要求超支前请示;例如 citrus 项目用 3,017 张标注图微调 Qwen3.5-2B,测试集准确率从基座 14.9% 提升到 52.8%,成本约 1.90 美元。

    推荐理由:作者把 7 个提示词原样公开,预算上限、基线对比和冒烟测试的写法可以直接搬到自己的 Agent 训练项目里。

  14. Hugging Face · 新模型:abliterated68

    Dankpaws 发布 Swift 1.5 Qwen3.8-27B Abliterated 的 EXL3 4.25bpw 量化版

    Dankpaws 将 grimlee 的 abliterated 版 Swift 1.5 Qwen3.8-27B 转换为 EXL3 4.25bpw 量化格式,面向双 RTX 5060 Ti 16 GB 硬件,支持三路并发、每路 115,200 tokens 上下文,包含原生 MTP 和视觉权重。作者在 PCIe 拓扑受限的测试机上实测了单请求 66.1 tok/s、三短请求 41.9-43.3 tok/s 等吞吐数据,并明确说明未做额外微调或新的 abliteration,也未与 BF16 做成对评测;许可上同时适用 Swift Open License v1.0 和 Apache License 2.0。

    推荐理由:原文给出了完整的量化参数、实测吞吐和内存数据,读者可以按自己的双卡配置复现这套 EXL3 本地部署。

  15. Hugging Face · 新模型:uncensored20

    Gemma3-Prompt.Coder.it.Uncensored-270m 的 ONNX 版本在 Hugging Face 上线

    onnx-community 发布 WithinUsAI/Gemma3-Prompt.Coder.it.Uncensored-270m 的 ONNX 版本,可通过 Transformers.js 的 text-generation 管线使用。该模型基于 google/gemma-3-270m-it,用 mergekit 以 SLERP 方法合并 4 个模型而成,是无审查的提示词扩展模型。其安全过滤被大幅削弱,可能生成敏感内容,官方建议仅用于研究或受控环境,不适合生产环境使用。

  16. Hugging Face · 新模型:uncensored20

    minas2025/Granite-4.2-3B-Uncensored-Conversational 模型上线 Hugging Face,支持 llama.cpp、vLLM、Ollama 等本地部署

    Hugging Face 上线 minas2025/Granite-4.2-3B-Uncensored-Conversational 模型,提供 Q6_K 量化版本,可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种工具本地运行。模型支持 llama-server 启动 OpenAI 兼容 API,并可接入 Pi、Hermes Agent、OpenClaw 等 Agent 工具使用。

  17. Hugging Face · 新模型:abliterated62

    haddockaihamburg 发布 Qwen3-0.6B-abliterated 去对齐权重

    haddockaihamburg 用 heretic 工具(方向消融加 TPE 参数优化)自动产出 Qwen/Qwen3-0.6B 的 abliterated 版本并开放权重。25 条有害提示的独立测量显示拒绝数从基座 6/25 降到 0/25,lm-eval 各任务能力与基座相当,MMLU 提升 +3.5 在噪声范围内;作者警告样本仅 25 条、单种子单模型,另一次同配置运行只剩 3/25 拒绝,建议消融后独立验证拒绝行为。模型为思考型,使用时模板需设 enable_thinking=False 以匹配测量状态。

    推荐理由:原文给出拒绝率前后对照、能力评测和可复现性警告,读者能据此判断这次消融的实际效果与局限。

  18. Hugging Face · 新模型:abliterated47

    Huihui-Qwen3.8-27B-abliterated GGUF 版本发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 发布经 abliteration 处理的去审查 GGUF 版本 Huihui-Qwen3.8-27B-abliterated-GGUF,MTP 与视觉部分未修改。多个系列(UD、GSQ-RCO、UD-DW、Ternary、Swift)仅对第 22-52 层(0 起始索引)做 abliteration,其余层保留原样;Q2_K_L-Q6_K_L 等版本将需 abliteration 的权重转为 Q8_0 以提升回复质量。该模型安全过滤大幅降低,仅建议用于研究与测试,可在最新版 ollama 和 llama.cpp 中运行。

10月8日周四
  1. Hugging Face · 新模型:uncensored43

    Qwen-Image-2.1 Uncensored GGUF 量化版发布:支持 ComfyUI 本地图像生成

    用户 Kikik3636 基于 Qwen/Qwen-Image-2.1 上游原始权重发布 GGUF 量化版本,提供 BF16、Q8_0、Q6_K、Q4_K_M 等多档量化文件,体积从 4.15 GB 到 14.23 GB 不等,其中 Q4_K_M 被推荐为体积与质量的最佳平衡。该版本内置 ComfyUI 配套的 text encoder(qwen3vl_8b)与 VAE 文件,可在 ComfyUI 中通过 ComfyUI-GGUF 节点运行。此版本无内置安全检查器或内容过滤,可直接生成 NSFW 内容,采用 Qwen Research License 授权。

  2. Hugging Face · 新模型:uncensored56

    Qwen3.8-Flash-Next 的 MLX 量化包发布,4-bit 混合精度约 63 GB 可在 128 GB Mac 上运行

    作者发布了 Qwen/Qwen3.8-Flash-Next 的 mlx-serve 4-bit 混合量化包(4-bit experts、8-bit 其余),该模型为 Qwen4 preview 架构(model_type: qwen4_exp),全量 checkpoint 为 125B trunk + 51B n-gram + 4B MTP,共 180B(bf16 360 GB)。实测在 M4 Max 128 GB 上常驻约 67-69 GB,decode 29-34 tok/s,25k token prompt prefill 约 400 tok/s。n-gram 表以单独 4-bit 文件 mmap 方式按需反量化,不占常驻显存;MTP 头可加载但当前比串行 decode 慢,默认关闭。

    推荐理由:作者在 M4 Max 上给出了显存占用、decode 与 prefill 速度等实测数据,读者可以据此评估这个 180B 模型能否在自己机器上跑。

  3. Hugging Face · 新模型:abliterated66

    Ostrich-27B-261008-Qwen3.8-Abliterated 发布,基于 Qwen 3.8 27B 去除拒绝行为

    etemiz 发布 Ostrich-27B-261008-Qwen3.8-Abliterated,基于 Qwen 3.8 27B 做 abliterated 处理移除拒绝行为。自评显示总体对齐分从原版 Qwen 3.8 的 37%(几何平均)提升到 82%,消融测试拒绝率很低。相比 260903 版本新增 Agentic RAG 训练、-100..100 真值打分适配器、9 项自动化拟人测试(总分 0.928),并开始提供 EXL3 量化(3.0 至 6.0 bpw)与 GGUF 下载,可在约 18 GB 显存的消费级 GPU 上 4-bit 运行。

    同一新闻,精选展示《etemiz 发布 Ostrich-27B-261008-Qwen3.8-Abliterated EXL3 量化版》

  4. Hugging Face · 新模型:abliterated69

    etemiz 发布 Ostrich-27B-261008-Qwen3.8-Abliterated EXL3 量化版

    etemiz 在 Hugging Face 发布基于 Qwen 3.8 27B 的 Ostrich-261008 abliterated 版本,提供 3.0 至 6.0 bpw 四档 EXL3 量化(13 到 22 GB),可通过 ExLlamaV3 / TabbyAPI 在消费级 GPU 本地运行。该版本经 abliteration 移除拒绝行为,官方数据显示整体对齐率从基座的 37% 升至 82%,并新增了 Agentic RAG 训练、真值打分适配器和 0.928 分的自动化 9 项人格化测试;训练采用进化搜索管线,累计 841 代、9500 条谱系,蒸馏领域覆盖健康、宗教、比特币等。

    推荐理由:原文给出了按领域的对齐率对比和拒绝率数据,读者可以据此判断这个 abliterated 版本的实际去对齐程度和量化选择。

  5. Hugging Face · 新模型:abliterated65

    KENIC-1 发布 Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF 量化

    KENIC-1 在 Hugging Face 发布 Qwen3.8-Flash-Next GSQ-RCO 的 abliterated GGUF 版本,采用字节级张量移植,将全部 48 层中的 144 个 write-to-residual-stream 投影张量替换为 orcarouter 消融权重,不重算任何 GSQ 学到的量化值。四个量化档位(IQ3_S / IQ3_XXS / IQ2_XS / Q2_0)保持上游逐张量类型分配不变,体积仅比上游多 0.25–0.44 GB;1223 个张量经逐张量 blake2b 核验,144 个目标全部改变、1079 个非目标逐字节一致,行为抽查显示上游拒答的提示词此版可详尽回答。

    推荐理由:原文给出了逐张量的移植方法与blake2b核验数据,读者可以确切看到哪些张量被改、代价多大。

  6. Hugging Face · 新模型:uncensored37

    Qwen3.6-35B-A3B Uncensored Genesis Hermes GGUF 版本发布

    burningfeet 发布基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 的 Genesis Hermes GGUF 模型,基础模型 refusal 记录为 0/465。该模型总参数 35B,每次前向激活约 3B(MoE,256 专家、8 路由 + 1 共享),采用 Gated DeltaNet 线性注意力与全 softmax 混合架构(3:1),40 层,原生 262K 上下文(YaRN 可扩展至 1M),本地多模态。作者使用 Genesis 后训练算法通过 Marchenko–Pastur 定律修复 tensor 中的训练噪声,不涉及训练或微调。

  7. Hugging Face · 新模型:uncensored45

    Gemma 4 E2B Uncensored LiteRT-LM 版发布:2.37 GB 端侧离线运行模型

    社区版 Gemma 4 E2B Uncensored-MAX 已转换为 .litertlm 格式,可在 Android、Pixel 及 Tensor / Mali 设备上完全离线运行。模型为 INT4 量化,有效参数 2.3B(含 PLE 总参数 5.1B),支持 32,768 token 上下文,仅保留文本能力,体积 2.37 GB。可通过 Google AI Edge Gallery 或 LiteRT-LM CLI 加载,采用 Apache 2.0 许可证。

  8. Hugging Face · 新模型:abliterated28

    abliterated 模型 k8scert/Qwen3.8-27B-ABLITERATED-Q8_0 上架 Hugging Face

    用户 k8scert 在 Hugging Face 发布 abliterated 版模型 Qwen3.8-27B-ABLITERATED-Q8_0,采用 Q8_0 量化。页面给出通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具运行该模型的命令,并附 Pi、Hermes Agent、OpenClaw 等接入本地 llama.cpp 服务器的配置示例。

  9. Hugging Face · 新模型:uncensored18

    ogies99/Gemma-3-Uncensored_v2-gguf 发布

    基于 Gemma-3 4B it 微调的无审查模型 Gemma-3-Uncensored_v2-gguf 发布,用 Unsloth 微调并转换为 GGUF 格式,提供 gemma-3-4b-it.Q4_K_M.gguf 和 F16-mmproj 文件,可用 llama-cli 或 llama-mtmd-cli 运行。模型调整了 BOS token 以兼容 GGUF,训练速度提升 2 倍;Ollama 暂不支持单独的 mmproj 视觉文件,需通过 Modelfile 创建统一的 bf16 模型使用。

  10. Hugging Face · 新模型:abliterated31

    htdohk/Huihui-Qwen3.8-Flash-Next-abliterated-MTP-GGUF 上架 Hugging Face

    abliterated 版 GGUF 模型 Huihui-Qwen3.8-Flash-Next-abliterated-MTP-GGUF 现已上架 Hugging Face,支持 image-text-to-text 多模态输入。页面给出 Transformers、llama.cpp(UD-Q4_K_XL 量化)、vLLM、SGLang、Ollama、Docker Model Runner 等多种本地运行与 OpenAI 兼容 API 部署方式,llama.cpp、Ollama 等均可直接拉取运行。

  11. Hugging Face · 新模型:abliterated20

    mradermacher 发布 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated-i1-GGUF 量化模型

    mradermacher 在 Hugging Face 上提供 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated 模型的 GGUF 量化版本,包含 imatrix 量化及约 0.1GB 的 imatrix 文件供用户自行创建量化。静态量化版本另行提供,使用方法可参考 TheBloke 的 README 说明。作者感谢 nethype GmbH 提供服务器及 @nicoboss 提供私有超算支持。

  12. Hugging Face · 新模型:abliterated45

    huihui-ai 发布 Aleph-Alpha Kolibri-1-BF16 的 abliterated 去审查版 GGUF

    huihui-ai 基于 Aleph-Alpha/Kolibri-1-BF16 制作了 abliterated 去审查版本,全程使用 llama.cpp 处理 GGUF 完成,并重新量化上传了 Q2 至 Q8 及 BF16 共多个量化版本。模型需对 llama.cpp(commit 836d571)打 kolibri1 补丁才能运行,且 abliteration 未修改全部专家模块。由于安全过滤大幅削弱,仅建议用于研究与受控环境。

  13. Hugging Face · 新模型:abliterated30

    huihui-ai 发布 Huihui-Kolibri-1-BF16-abliterated 去审查模型

    huihui-ai 在 Hugging Face 发布 Aleph-Alpha/Kolibri-1-BF16 的去审查(abliterated)版本 Huihui-Kolibri-1-BF16-abliterated。该模型完全基于 llama.cpp 的 GGUF 完成 abliteration,未依赖 Transformers,具体方法见 cvector-generator。官方警告其安全过滤大幅削弱,可能生成敏感内容,建议仅用于研究和受控环境,产出后果由使用者自负。

  14. Hugging Face · 新模型:abliterated23

    mradermacher 发布 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated 的 GGUF 静态量化版本

    mradermacher 在 Hugging Face 发布 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated 的 GGUF 静态量化版本,提供从 Q2_K 到 f16 共 12 种规格,体积介于 0.4-1.1 GB,其中 Q4_K_S/Q4_K_M 被标注为快速且推荐,Q8_0 为最佳质量。weighted/imatrix 量化暂不可用,用户可通过 Community Discussion 提出请求。

  15. Hugging Face · 新模型:abliterated28

    mradermacher 发布 Qwen3-06B-3MPER0RR-abliterated 静态 GGUF 量化版本

    mradermacher 在 Hugging Face 发布 Qwen3-06B-3MPER0RR-abliterated 模型的静态 GGUF 量化版本,提供从 Q2_K(0.4 GB)到 f16(1.3 GB)共 13 种量化类型。其中 Q4_K_S、Q4_K_M 标注为快速且推荐,Q6_K 质量很好,Q8_0 快速且质量最佳。加权/imatrix 量化版本可在其模型页面获取,使用方法可参考 TheBloke 的 README。

  16. Hugging Face · 新模型:abliterated36

    huihui-ai 发布 Qwen3.8-Flash-Next 的 abliterated 无审查 GGUF 版本

    huihui-ai 在 Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated-GGUF,这是用 abliteration 技术移除拒绝行为的 Qwen/Qwen3.8-Flash-Next 无审查版本。GGUF 文件来自 unsloth 系列,支持最新 llama.cpp 和 Strata,可用 llama-cli 加载,上下文设为 -c 262144。发布方提醒该模型安全过滤已大幅削弱,仅建议用于研究、测试或受控环境,使用后果由用户自行负责。

  17. Hugging Face · 新模型:abliterated26

    huihui-ai 发布 Huihui-Kolibri-1-abliterated:Aleph-Alpha Kolibri-1 的去审查版本

    huihui-ai 发布 Aleph-Alpha/Kolibri-1-BF16 的去审查版本 Huihui-Kolibri-1-abliterated, abliteration 过程完全基于 llama.cpp 的 GGUF 模型完成,不依赖 Transformers,方法见 cvector-generator。该模型安全过滤被大幅削弱,可能生成敏感或不当内容,仅建议用于研究和受控环境,不适合公开场景,用户须自行承担法律与伦理责任。