DeepSeek-V4.1-Flash-1017-Abliterated 的 ik-llama GGUF 量化版上线 Hugging Face
Hugging Face 用户 ji-farthing 发布 DeepSeek-V4.1-Flash-1017-Abliterated 的 ik-llama GGUF 量化仓库。该仓库公开可访问,但用户需登录并同意分享 Hugging Face 信息、接受相关条件后才能下载模型文件。
新闻、仓库与研究,按时间排列。
Hugging Face 用户 ji-farthing 发布 DeepSeek-V4.1-Flash-1017-Abliterated 的 ik-llama GGUF 量化仓库。该仓库公开可访问,但用户需登录并同意分享 Hugging Face 信息、接受相关条件后才能下载模型文件。
mradermacher 在 Hugging Face 上提供 Qwen3.5-27B-abliterated-ko-i1 的 GGUF 量化模型(如 Q2_K)。该模型可通过 llama.cpp 本地运行或启动 OpenAI 兼容服务器,并支持在 Ollama、Docker Model Runner、LM Studio、Jan、Pi、Lemonade、Hermes Agent 及 OpenClaw 等工具中使用。
Spark-X2.6-4B-Uncensored-GGUF 上架 Hugging Face,提供 Q4_K_M 量化版本,可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或直接在终端运行推理。该模型还支持通过 Ollama、Docker Model Runner、Lemonade 以及 Pi、Hermes、OpenClaw 等 Agent 工具加载使用。
dealinai 以 CRACK 方式对 GLM-5.3-Flash 做权重级去审查并发布 FP8 版本(320B 总参数、18B 激活、1M 上下文),直接在张量中移除拒绝行为,不用 SFT、DPO、LoRA 或模板技巧。HarmBench-320 上 reasoning-OFF 和 max 档 320/320 全通过、0 拒绝(low 档保留部分拒绝),MMLU 87.33% 高于基线 86.74%;H200 TP4 原生 FP8 解码 163 tok/s,开启 MTP 投机解码达 211 tok/s、接受率 75.9%。
同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》
mradermacher 在 Hugging Face 上提供 Qwen3.5-27B-abliterated-ko 的 GGUF 量化版本。用户可通过 llama.cpp 直接推理或启动本地 OpenAI 兼容服务器,示例采用 Q4_K_S 量化档,并支持 LM Studio、Jan、Ollama、Docker Model Runner、Lemonade、Pi、Hermes Agent 及 OpenClaw 等工具加载运行。
AtomicChat 在 Hugging Face 发布 FLUX 3 Image Klein 文本编码器(Qwen3-VL-4B-Instruct)的去对齐 GGUF 版,将拒绝方向从权重中投影消除,英文有害请求拒绝率从 79% 降到 0%,俄语从 32% 降到 0%,MMLU 从 71.1% 到 71.2%。提供 BF16 至 Q4_K 共四档量化,可作为 stable-diffusion.cpp 的 --llm 直接使用;实测显示图像内容变化极小(LPIPS 0.066),并附与 webmp3 Sakura、pottokao Heretic 等同类去对齐编码器的 KLD、拒绝率和 MMLU 对比。方法遵循 Arditi et al. 2024 的单一拒绝方向研究,ComfyUI 暂不兼容该编码器。
推荐理由:原文给出了拒绝方向消融的完整方法和前后拒绝率数据,还与多个同类去对齐编码器做了量化对比。
AtomicChat 基于 BFL 的 FLUX 3 Image Klein 提示词扩展器(9B Qwen3.5 微调)投影移除拒绝方向,发布 llama.cpp 可用的 GGUF 权重及 3MB LoRA 版本。作为聊天模型,held-out 提示词上英文拒绝率从 63% 降至 0%,俄语从 29% 降至 1%,MMLU 从 74.15% 微降至 73.95%,工具调用与长文本检索不受影响;作为 upsampler 时在 35 条敏感请求中比原版多保留 2 条内容,但 Klein 图像模型本身不画这两类,出图无可见去审查效果。
同一新闻,精选展示《AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版》
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术移除拒绝行为,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,其余层保持不变,并提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144。模型安全过滤大幅降低,建议用于研究测试环境。
Hugging Face 用户 Starw1 发布 DeepSeek-V4.1-Flash-1017 的 Uncensored GGUF 量化版本,采用 IQ2_XXS 与 MXFP8 混合量化,模型规模 197B 参数,基于 deepseek41-engram 架构。该模型为 2-bit 量化版本,可在本地硬件上运行。
HauhauCS 发布 Qwen3.8-27B 无审查 Aggressive 变体的 GGUF 量化版本,0/465 拒答,直接作答且几乎无前导语。该版本附带 HauhauCS FastMTP 32K 加速 sidecar,在 Q8_K_P 下相比禁用 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG,比标准内嵌 MTP 高 35.2% 和 21.1%。模型保留文本、推理、agentic、图像与视频能力,原生 262,144-token 上下文,可扩展至 1,000,000,兼容 llama.cpp 等标准 GGUF 运行时。
dealignai 发布 GLM-5.3-FP8 的全谱系去对齐权重版 v2,通过直接修改 bf16 residual-writer 张量降低拒绝行为,不依赖微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HB-320 上 GARBAGE 降为 0,非版权 240 项行为 TRUE_COMPLY 达 91.7%(off),MMLU 87.43% 较基线 +1.85pp;模型基于 zai-org/GLM-5.3(753B,glm_moe_dsa 架构,纯文本),可在 vLLM 上以原生 FP8 速度运行,附 8×H200 TP8 部署配置与 reasoning_effort 仅支持 low/high 等运行注意事项。
同一新闻,精选展示《dealignai 发布 GLM-5.3-UNCENSORED-FP8 无对齐权重版并修复推理循环问题》
基于 unsloth/Llama-3.2-3B-Instruct 的去审查微调模型推出 GGUF 量化版本,abliteration 后 KL 散度仅 0.0265,测试中 100 次拒绝仅 4 次,并保留多语言能力。提供 Q4_K_M(2.02GB)、Q5_K_M(2.32GB)、Q8_0(3.42GB)和 f16(6.43GB)四种量化,可在 LM Studio 或 Ollama 中加载使用。
R0U5 在 Hugging Face 发布基于 Qwen2.5-1.5B-Instruct 的 abliterated 版本,用 Lethe 方法从对比激活中计算拒绝方向并从残差写入权重矩阵(含嵌入矩阵)中正交化移除。模型转为 GGUF 后在 llama.cpp 实际服务环境验证,20 条 held-out 拒绝诱导提示的拒绝数从 17/20 降到 0/20,连贯性检查通过;并指出自评同源采样和把退化输出计为合规两种假完美陷阱。提供 Q8_0(1.65 GB)与 f16(3.09 GB)权重,经 YaRN 扩展至 65,536 token 上下文,作者明确说明消融只改变拒绝行为、不增加能力。
推荐理由:原文给出 Lethe 消融方法、llama.cpp 实测拒绝率从 17/20 降到 0/20,还说明了两个易被忽视的评测陷阱。
Hugging Face 上架了 mostwanted002 的 Sage-A1.5-Ablitrex-abliterated-BF16 模型,采用 Safetensors 格式,参数规模 35B,精度为 BF16。该模型目前未部署任何 Inference Provider,README 内容为空。
Hugging Face 社区发布 Feyospace-v1.1-Abliterated-security-MTP-UD-Q4_K_S,这是基于 OBLITERATUS/feyospace-s1-obliterated 的 GGUF 量化版,面向本地网络安全研究、代码分析与工具辅助调查。该构建采用 UD-Q4_K_S 混合精度布局、面向安全的 importance-matrix 校准,并保留 MTP 头以支持投机解码;上游模型约 28B 参数、Qwen3.5 架构、Apache-2.0 许可,最大上下文 262,144 tokens。该卡未提供此量化版的 benchmark 结果,最终张量清单与质量保留情况尚待验证。
huihui-ai 基于 Aleph-Alpha/Kolibri-1-BF16 制作了 abliterated 无审查版本,全程用 llama.cpp 的 GGUF 完成,不依赖 Transformers。已用 llama.cpp 重新量化并上传 Q2、Q3、Q4、Q5、Q6、Q8 和 BF16 版本。原版 llama.cpp 暂不支持 kolibri1 架构,需应用仓库内提供的补丁并检出 commit 836d571 后编译。
dealignai 在 Hugging Face 发布 Ornith-1.5-122B-UNCENSORED 的 NVFP4-Infernix 格式导出,这是去 refusals 版本的量化模型,基于 Qwen3.5-122B-A10B 架构(48 层、256 个路由专家每层取 top 8),附带 MTP 与 DFlash2 drafter。模型经逐字校验与 checkpoint 无失配,可在单张 RTX 5090(32 GB)上运行,约需 70 GiB 主机内存和 76 GB 磁盘空间,速度仍待优化测定。
Hugging Face 用户发布 Qwen3.8-Flash-Next 越狱版(orcarouter/Qwen3.8-Flash-Next-Uncensored)的 UD-Q4_K_XL 风格量化,复刻官方 Unsloth 类型表,主干 5.03 BPW、总计 108.39 GiB,附带 MTP draft head(Q8_0)与视觉塔(BF16),原生上下文 262,144,Apache-2.0。在 AMD Strix Halo 上以 Gufo 与 Halogen 实测 decode 32~40 tok/s,MTP 推测解码正常;缺 MTP head 会静默关闭推测解码,吞吐掉 30%+。
pasangimhana 发布 gemma4-12b-it-abliterated,基于 google/gemma-4-12B-it 做权重编辑,将拒绝方向从残差写入中正交化移除,无训练无微调,bf16 单文件 23.9 GB,共修改 97 个张量。大基准(769 条有害提示)上有害拒绝率从 454 降到 6,comply 从 32% 升至 91%,良性提示退化输出率与基座相同(9/92);方法上在每层捕获 150 有害与 150 无害提示的残差求方向,采用以第 24、28 层为中心、sigma 6 的宽高斯带正交化,并强调嵌入编辑不可省略。使用时需将 <turn|>(token 106)设为停止符;模型无任何安全过滤,作者提醒不要无外部策略层直接公开部署,且未跑 MMLU、GSM8K 等能力基准。
推荐理由:原文给出消融方法、拒绝率前后对比和退化输出对照,读者可据此判断这次权重编辑去掉了多少拒绝行为、代价多大。
nchapman 在 Hugging Face 上发布 Huihui-Qwen3.5-0.8B-abliterated-W4A16-GPTQ,这是一个基于 Qwen3.5 0.8B 的 abliterated 多模态 GPTQ 量化模型,支持 image-text-to-text 任务。模型可通过 Transformers、vLLM、SGLang 加载部署,并提供 OpenAI 兼容 API 与 Docker 运行方式。
Hugging Face 上架 nchapman 发布的 Huihui-Qwen3.5-2B-abliterated-W4A16-GPTQ,这是一个 2B 参数、W4A16 GPTQ 量化的 abliterated 多模态模型,支持图像-文本到文本任务。文档给出 Transformers、vLLM、SGLang 及 Docker 的部署示例,并支持通过 OpenAI 兼容 API 调用。
BoldingBuilds 放出 OrcaRouter 去 GLM-5.3-Flash-Uncensored(320B 总参数/18B 激活 MoE、288 路由专家、1M 上下文)的 imatrix GGUF 量化,含 IQ3_XXS、IQ2_M、IQ2_S、IQ2_XXS 四档,并修正共享专家与 attention 量化配方使 IQ2_S 等通过全部 48 项一致性测试。量化权重上实测 JailbreakBench 有害拒绝率 0.040(OrcaRouter FP8 为 0.120,base 为 0.930),HumanEval pass@1 0.927;作者指出空输出会计为服从,提醒评测时必须同时报告空输出数,文件已适配 mainline llama.cpp 与 LM Studio 模板。
Hugging Face 用户 mradermacher 上架 Minecraftism-4B-Thinking-Uncensored 的 i1-GGUF 量化模型仓库。模型采用 GGUF 格式,页面提供了下载统计与硬件兼容性信息,用户需登录后可添加自己的硬件配置。
prompts.chat 每日 prompt 收录了新条目 "Sock Drawer Philosopher"。该 prompt 读取当天天气和前 2 条日历项,生成一段 2-3 句、60 词以内的哲学感悟,风格在斯多葛、存在主义、禅宗、荒诞主义间轮换,并每周汇编成"collected works"。
prompts.chat 的每日 prompt 库新增名为 Conspiracy Board Builder 的 prompt。它收集用户一周内日历、分享和阅读的 5-8 个随机事物,编造荒诞但自洽的联系,输出 ASCII 风格软木板图和一段 200 词的夸张风格“理论”,并标注为虚构、以 "confidence: 1000%" 收尾,同时禁止在未经用户明确同意时代为发送、发布或删除任何内容。
prompts.chat 每日 prompt 新增「Alter Ego Reply Drafter」。用户转发消息时,它会起草三种回复:得体外交版、海盗版和莎士比亚版,其中外交版可直接发送,趣味版本保持好笑但不过分,用户还可添加自定义 persona。该 prompt 仅起草不发送,未经用户明确同意不代为发送、发帖、购买、删除或更改任何内容。
prompts.chat 每日 prompt 收录了一个名为 Personal Hype Man 的新提示词。它会读取日历中的面试、demo、演讲、考试等高压事件,收集用户近期真实成就,在活动前 30 分钟发送引用 2 个具体成绩的简短打气内容,并为该类活动附一条实用建议。提示词要求内容真诚不说奉承话,且未经用户明确同意不得代为发送、发布、购买、删除或更改任何内容。
prompts.chat 每日 prompt 新增「Villain Origin Story Narrator」。该 prompt 从用户分享的内容中收集一周的小挫折,以史诗叙事者口吻写成 300 字戏剧化章节,同事匿名处理、语气亲切不刻薄,结尾让主角选择仁慈,并可跨周延续连载。prompt 明确要求未经用户明确同意不得代为发送、发布、购买、删除或修改任何内容。
prompts.chat 新增名为 Weekly Roast 的 prompt,它会收集一周的数据,如会议变动、深夜活动、未读数量和被搁置的任务,据此写出 5 条基于真实数据的吐槽短句。该 prompt 风格保持善意,避开健康、家庭、金钱等敏感话题,结尾附一句真诚具体的夸奖,用户可设置 1-5 的辛辣度等级,且未经明确确认不会代用户执行任何操作。
prompts.chat 的每日 prompt 新增「Gift Idea Librarian」,用于记录用户收到的礼物线索(含转发消息中的提示),在生日和节日前汇总已保存的礼物创意及其价格和链接,并跟踪已送出的礼物避免重复。该 prompt 规定未经用户在对话中明确同意,绝不能代用户购买、发送、发布、删除或更改任何内容。
prompts.chat 每日 prompt 新增“Flight Delay Lawyer”。该 prompt 可从预订邮件监控航班状态,遇延误或取消时判断适用规则(EU261、UK261、US DOT 等)及应得赔偿,告知当下可要求改签、餐食或酒店,行程结束后起草赔偿申请。所有操作须经用户明确同意后才会提交。
prompts.chat 每日新增名为 Travel Packing Brain 的 prompt。该 prompt 会读取旅行日期、目的地和行程安排,查询天气预报,按类别生成打包清单并按活动计算衣物套数,还会纳入用户过去遗漏的物品,并在出发前 2 天发送清单。它同时规定未经用户明确同意不得代为发送、发布、购买或删除任何内容。
prompts.chat 上线新 prompt "Grandma Explains the News":从可靠来源挑选当天 3 条最重要新闻,用慈爱风趣的奶奶口吻复述,保持事实准确并附来源链接。该 prompt 结尾附加一条奶奶式人生建议,避免党派倾向框架,且未经用户明确同意不代为发送、发布、购买、删除或更改任何内容。
prompts.chat 每日 prompt 新增 "Layover Adventure Planner"。该 prompt 用于检测行程中 5 小时以上的中转,核查持用户护照能否离境机场,规划含交通、一个主要景点和一处本地美食的路线,并设定带安检缓冲的返程时间。若天气或开放时间不合适会发出警告,且未经用户明确同意不代替用户执行任何发送、购买或删除操作。
prompts.chat 每日 prompt 新增 Time Capsule Keeper。该 prompt 每月向用户提 5 个简短问题(担忧、期待、歌曲、自豪之事、预测),带日期私密保存答案,并在每个周年日发送一年前的记录,用户回复时附上今昔对比。规则明确不与任何人分享,未经明确同意不代替用户发送、发布、购买、删除或更改任何内容。
prompts.chat 的每日 prompt 仓库新增了 "Weekend Planner" 提示词。该 prompt 可读取周末天气、日历和预算,查找本地活动、徒步、展览和餐厅,提出 adventure、cozy、social 三种计划并附带时间和费用,还会记住用户喜好。它只准备预订步骤,未经用户明确同意不会代为发送、发布、购买、删除或更改任何内容。
prompts.chat 每日 prompt 收录新增「Pet Diary Ghostwriter」。该 prompt 让 AI 在用户分享宠物照片或趣事时,以宠物口吻写日记,每篇不超过 150 词,风格有趣而亲昵,并为每只宠物设定用户可调的一致性格。它还能按月整理带照片的「回忆录」、提供社交发帖配文,但绝不代用户发送、发布或购买任何内容。
prompts.chat 仓库新增 Points & Miles Optimizer 提示词。该提示词让 AI 从常旅客邮件中收集积分余额和到期日,在到期前 60 天和 14 天预警并给出最便宜的延期方式;对常用航线对比奖励票与现金价格、计算每分价值(cents per point),并按用户设定的阈值标记高价值兑换;同时明确规定绝不代用户订票、转点或执行任何未经明确确认的操作。
prompts.chat 每日 prompt 新增 Haunted Calendar。该 prompt 读取日历即将到来的事件及附件,为每个重要事件写一段隐藏真实提醒(如带幻灯片、提前 10 分钟到、是生日)的简短不祥预言,在早晨消息中发送,十月加大戏剧效果,同时确保提醒清晰可辨;未经用户明确同意不代发、代删或更改任何内容。
prompts.chat 新增名为 Visa & Passport Watch 的 prompt:从日历和订票邮件读取即将到来的行程,按用户护照核对目的地及中转国的签证、eTA 与入境规则,并检查护照有效期要求(如 6 个月)。它列出所需表格、截止日期和官方链接,出发前一周重新核对规则且只引用官方来源;未经用户在对话中明确同意,绝不代用户发送、发布、购买、删除或更改任何内容。