跳到正文
10月17日周六
  1. Hugging Face · 新模型:abliterated28

    Hemmingway-1-27B-abliterated 的 INT8 W8A8 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 INT8 W8A8 动态量化版,基于 27.32B 参数的 BF16 原模型,体积从 54.64 GB 降至 30.30 GB(55.5%),仅量化语言模型解码器中的 496 个 linear 层,lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 INT8 权重 SNR 约 39.6–40.8 dB,logits 分布接近原模型;可直接在 vLLM、SGLang 或 Transformers 中加载,尚未做 benchmark、吞吐或消融鲁棒性测试,许可证为 apache-2.0。

  2. Hugging Face · 新模型:abliterated20

    Sindexter/qwen2.5-7b-abliterated-gguf 模型在 Hugging Face 上提供 llama.cpp 等多种本地运行方式

    Hugging Face 上线 Sindexter/qwen2.5-7b-abliterated-gguf 模型页面,提供 Q3_K_M 量化版本。用户可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或终端直接推理,也支持 Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具运行,并可接入 Pi、Hermes、OpenClaw 等 Agent 使用。

  3. Hugging Face · 新模型:uncensored25

    webmp3 发布 Sakura-Nemotron-3.5-Bolt-74B-A9B-24GB-Uncensored GGUF 模型

    webmp3 在 Hugging Face 上发布 Sakura-Nemotron-3.5-Bolt-74B-A9B-24GB-Uncensored 的 GGUF 版本。该模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner 等工具运行,支持启动 OpenAI 兼容本地服务器或在终端直接推理,也可在 LM Studio、Jan、Pi、Hermes Agent、OpenClaw 等客户端中使用。

  4. Hugging Face · 新模型:abliterated60

    Qwen2.5-32B-Instruct abliterated 去对齐版本发布

    varun-balani 在 Hugging Face 发布 Qwen2.5-32B-Instruct 的 abliterated 版本,用 Heretic 的 ARA 修饰器去除拒绝方向。mlabonne/harmful_behaviors 拒绝率从 98/100 降到 10/100,相对基座模型 KL 散度 0.22;该结果从 24 次试验的优化中选出,提供 bf16 全量权重及 Q4_K_M(约 20 GB)和 Q8_0(约 35 GB)GGUF 量化版本,Q4_K_M 可在约 36 GB 内存的本地环境用 Ollama、LM Studio 或 llama.cpp 运行。

    推荐理由:原文给出拒绝率前后对比和 KL 散度数据,可据此判断这个去对齐版本的行为漂移程度。

  5. Hugging Face · 新模型:uncensored44

    Qwen3.8-27B Defiance Uncensored (MTP, GGUF) 发布:40 种模式的无审查版

    ttindall 将 DavidAU 的 Turbo-Brilliance "AI Construct" 模式套用到 HauhauCS 的无审查 Qwen3.8-27B 上,发布 Defiance Uncensored GGUF,移除拒绝层,提供 Joker、Dr. House、20-agent Einstein panel 等 40 种模式。权重与上游逐字节一致(866 个 tensor 全部核对),IQ4_XS 量化 15.7 GB 可在 24 GB 显卡跑 131K 上下文,RTX 4090 上 instruct 模式解码 86-90 tok/s,兼容 llama.cpp、LM Studio 和 Ollama。

  6. Hugging Face · 新模型:abliterated18

    mradermacher 发布 Vietnamese-4B-Chat-abliterated 的 i1-GGUF 量化版本

    mradermacher 在 Hugging Face 上发布 Vietnamese-4B-Chat-abliterated 的 imatrix 加权 GGUF 量化版本,提供从 i1-IQ1_S(1.5GB)到 i1-Q6_K(3.6GB)的多种量化文件,其中 Q4_K_M 被标注为快速且推荐,Q4_K_S 为大小/速度/质量最优。该模型为视觉模型,mmproj 文件放在静态仓库中,静态量化版本另行提供。

  7. Hugging Face · 新模型:abliterated70

    BoldingBuilds 发布 Muse Spark Open 816B 的无审查 GGUF 版本

    BoldingBuilds 发布 Meta Muse Spark Open(816B 总参数 / 42B 激活)的无审查 abliterated 版本,直接在 Unsloth UD-IQ1_S GGUF 上原位编辑,全程不做 BF16 反量化。拒绝率从原版 85.06% 降到 1.30%(StrongREJECT 留出集),ForbiddenQuestions 上从 60.00% 降到 0.00%,XSTest 过度拒绝保持 0%,MATH-30 为 25/30 对原版 26/30。方法为对 62 层中第 10-53 块做读写侧投影(λ=1.0,每块单独估计拒绝方向,共 61 个方向),编辑 309 个张量、256 个路由专家未动,λ=0 时输出与输入字节一致作为自检门槛。

    推荐理由:原文给出拒绝率前后对照与逐块方向估计方法,读者可据此判断这个去对齐版本实际去掉了多少、代价多大。

  8. Hugging Face · 新模型:abliterated22

    mradermacher/Vietnamese-4B-Chat-abliterated-GGUF 模型使用指南

    mradermacher/Vietnamese-4B-Chat-abliterated-GGUF 是一个 abliterated 版本的越南语 4B Chat 模型 GGUF 量化仓库,提供 Q4_K_M 等量化版本。该模型可通过 llama.cpp 在 macOS、Linux、Windows 上运行,支持启动 OpenAI 兼容的本地服务器或终端直接推理,也可通过 Ollama、Docker Model Runner、LM Studio、Jan 等工具加载,并可接入 Pi、Hermes、OpenClaw 等 Agent 工具。

  9. Hugging Face · 新模型:abliterated20

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-v2-GGUF 去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 通过 abliteration 技术移除拒绝行为,发布去审查的 GGUF 版本 v2。相比第一版调整了消融重点,且未对专家(experts)进行消融,适合小说写作和编程。该版本安全过滤大幅降低,建议用于研究、测试或受控环境,支持最新 llama.cpp,示例命令上下文长度为 262144。

  10. Hugging Face · 趋势模型73

    腾讯混元发布 Hy-Memory-30B-A3B 专用长期记忆写入模型

    腾讯混元发布 Hy-Memory-30B-A3B,一个约 3B 激活参数的长期记忆写入模型,可直接替换 Mem0、MemOS、Hy-Memory 等外部记忆框架中的通用 LLM。训练分两阶段,先做 Memory On-Policy Distillation 再做归因记忆强化学习,可零改动迁移到未参与训练的 EverMemOS。在固定 20% 基准子样本的四框架宏观平均分上得 55.49,超过 Claude Opus 5(54.62)和 DeepSeek V4.1 Flash(53.64)。权重、框架代码和技术报告均已开源。

    推荐理由:原文给出了固定基准矩阵上与多个通用大模型的横向对比,可以评估这个小模型在记忆写入上的性价比。

  11. Hugging Face · 新模型:abliterated28

    irwanworld 发布 Irwan-LightOnOCR-3-0.8B-abliterated:去除拒绝倾向的 OCR 视觉语言模型

    irwanworld 在 Hugging Face 发布 Irwan-LightOnOCR-3-0.8B-abliterated,基于 lightonai/LightOnOCR-3-0.8B(Qwen3.5-VL 0.8B 架构的 OCR 微调模型),通过从 huihui-ai/Huihui-Qwen3.5-0.8B-abliterated 提取权重差值(alpha=1.0、bfloat16)做 abliteration transfer,去除面对显式内容时的拒绝倾向,同时保留 OCR 能力。用法与原模型一致,无 API 变更;CPU 推理仅约 0.3 token/秒,生产环境建议用 GPU,OCR 质量尚未正式评测。

  12. Hugging Face · 新模型:uncensored28

    VicTeam Agency 发布 Qwen3.8-27B-Uncensored GGUF 量化版

    VicTeam Agency 基于 Alibaba Qwen 的 Qwen3.8-27B(Apache 2.0)发布去审查版 GGUF 模型,采用 huihui-ai 社区的 abliteration 去除拒答、Unsloth 动态量化,面向单显卡本地智能体开发。提供 Q4_K_XL(约 17.4 GB,质量优先)和 IQ4_XS(约 14.4 GB,可完整装入 16 GB 显存、速度更快)两种量化,可通过 llama.cpp(llama-server --jinja)和 llama-swap 运行。

  13. Hugging Face · 新模型:uncensored60

    tatekuperus 发布 Qwen3.6-27B-Fable-Fusion-711 无对齐 GGUF 量化版

    tatekuperus 在 Hugging Face 发布基于 Qwen/Qwen3.6-27B 的多阶段微调与合并模型 Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic GGUF 量化版,作者称其为首个在 8bit 和 4bit 下 ARC-C 超过 700 的该规模微调。去审查由 trohrbaugh 用 Heretic v1.2.0+custom 的 Arbitrary-Rank Ablation 方法完成,拒绝率从原版 99/100 降至 4/100,KL 散度 0.0469;作者给出的基准显示该模型在 7 项基准中 6 项超过 Qwen3.6-27B 基座。

    推荐理由:作者给出 Heretic 消融方法与去审查前后拒绝率对比,并附多组基准和第三方实测数据,可核对去对齐是否损伤模型能力。

  14. Hugging Face · 新模型:uncensored18

    FrosT-LyRo 发布 Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking 的 i1-GGUF 量化版本

    FrosT-LyRo 在 Hugging Face 发布 Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking 的 imatrix 加权 i1-GGUF 量化版本,提供从 i1-IQ1_S(8.8 GB)到 i1-Q6_K(32.2 GB)的多档量化文件,其中 Q4_K_S 被标注为大小、速度与质量的最优平衡,Q4_K_M 为推荐选项。该模型为视觉模型,mmproj 文件放在单独的 static 仓库中,静态量化版本另行提供。

  15. Hugging Face · 新模型:abliterated52

    distributedcognition 发布 humanizer-abliterated 去对齐版

    distributedcognition 在 Hugging Face 发布 jialinyyzz/humanizer(gemma-4 12B 微调的 AI 文风改写模型)的 abliterated 变体,用投影式 writer 级消融在 32 层移除拒绝方向,alpha 0.8。实测基座模型在 104 个有害改写提示上拒绝率仅 2/104,消融后拒绝率不变,MMLU-2280 仅降 0.04pp,GSM8K 持平;refusal_directions.pt 支持任意强度秒级重新消融,附 GGUF 量化可在 llama.cpp、Ollama 等运行,Apache 2.0。

    推荐理由:原文给出完整的消融方法、拒绝率与 MMLU 前后对比,并诚实指出基座模型本就几乎不拒绝,读者可据此判断去对齐的实际意义。

10月16日周五
  1. Hugging Face · 新模型:uncensored52

    Qwen3.8-27B TURBO 微调版发布 GGUF 权重,ARC-C 达 735 并大幅压缩思考 token

    TTPPCC121 等多人协作发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。模型用 Heretic v1.2.0+ARA 方法去对齐,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。提供常规与 MTP 两种 GGUF,Q4_K_S 下常规约 75 t/s、MTP 可超 90 t/s(5090、LMStudio 实测),支持 256k 上下文与视觉(需另下 mmproj 文件)。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》

  2. Hugging Face Blog75

    Reflection 发布开源 MoE 模型 Beam 501B,Hugging Face 提供推理与训练全流程支持

    Reflection 新实验室的首个模型 Beam 在 Hugging Face 开源,为 501B 参数 MoE(每 token 激活 23B),支持 1M token 上下文,采用 Apache 2.0 许可,主打编码与智能体场景。提供 BF16、FP8、NVFP4 三种检查点,transformers、vLLM、SGLang 均已 day-0 支持,并附 LoRA SFT 与 Miles GRPO 训练配方;Hub 上分享用 Beam 构建的项目可竞争 10,000 美元额度。

    推荐理由:官方博客给出架构细节、三档精度的实测跑分和从推理到 SFT、RL 的完整部署与训练配方,便于评估上手成本。

  3. Hugging Face · 新模型:abliterated24

    Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 韩语校准 3.7bpw GGUF 量化版发布

    donghanasd 在 Hugging Face 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的韩语校准混合精度 GGUF,约 12.60 GB、3.69 bits per parameter,从上游 BF16 GGUF 直接量化。量化使用 708 个 512 token 块收集的 importance matrix,张量精度分配沿用 Qwen3.8-27B-Ridge-GGUF,保留 tokenizer、chat template 和 MTP tensors,未做韩语额外训练也未验证韩语质量提升。

  4. Hugging Face · 新模型:uncensored18

    bappi/gemma-4-E2B-uncensored-coder-fable5-composer2.5 模型上线 Hugging Face

    多模态模型 bappi/gemma-4-E2B-uncensored-coder-fable5-composer2.5 在 Hugging Face 发布,支持 image-text-to-text 任务,可通过 Transformers 的 pipeline 或 AutoModelForMultimodalLM 加载。模型同时提供 vLLM、SGLang 部署方式及 OpenAI 兼容 API,并可用 Docker Model Runner 运行。

  5. Hugging Face · 新模型:abliterated25

    Hugging Face 上架 huihui-ai/Huihui-MiniCPM5-1B-abliterated:MiniCPM5-1B 去审查版本

    huihui-ai 发布 openbmb/MiniCPM5-1B 的 abliterated 去审查版本 Huihui-MiniCPM5-1B-abliterated,通过 abliteration 技术移除模型拒绝回答行为,无需 TransformerLens。模型安全过滤大幅降低,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接用于生产或面向公众的商业应用。

  6. Hugging Face · 新模型:uncensored66

    OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本

    OS-Software 基于 LiquidAI/LFM2.5-24B-A2B 发布去对齐版本,用自研 Heretic fork 只改动 layers 18、22、26 的 self_attn.out_proj 权重并烘焙进 BF16。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降到 0-1/100,QAD Q4_0 的 MMLU 为 55.35%(较原版 -0.62),并提供 Q4_0 到 Q8_0 多档 GGUF;模型仍会先思考再回答,输出偏长,建议 8k 以上输出预算,仅供研究实验用途。

    推荐理由:作者给出了各量化档位的拒绝率前后对比和 KL 散度、MMLU 数据,可以据此评估这个去对齐版本改动幅度与能力损失。

  7. Hugging Face · 新模型:uncensored64

    OS-Software 发布 LFM2.5-24B-A2B 去对齐 GGUF 版,拒绝率从 99/100 降至 0/100

    OS-Software 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 版本,使用 Heretic 的自定义 fork,仅改动第 18、22、26 层的 attention output projections。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降至 0-1/100,QAD Q4_0 的 MMLU 为 55.35%(原版 55.97%)。提供 Q4_0 到 Q8_0 多个量化档位,模型仍会先思考再回答,作者建议输出预算设 8k token 以上,仅供研究实验使用。

    同一新闻,精选展示《OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本》

  8. Hugging Face · 趋势模型64

    ornith-ai 发布端到端自我改进的 Ornith-1.5-122B 开源模型

    ornith-ai 发布 Ornith-1.5-122B,一个 122B MoE 模型,将 Ornith-1.0 的自我改进循环扩展到联合优化任务生成、scaffold 构建和解题 rollout,通过强化学习持续生成训练任务并改进策略。模型支持 262,144 tokens 上下文(YaRN 缩放后约 1M),可单张 80GB GPU 部署,并提供量化 Mobile 变体。基准中 SWE-bench Verified(non-hack)84.5、TerminalBench 2.1 为 81.2,评测采用防 reward hacking 措施并以 Claude Opus 作为 judge。

    推荐理由:模型卡同时给出多基准成绩与防 reward hacking 的评测细节,读者可对照同参数量级模型比较编码与智能体表现。