跳到正文
热点事件观察中

dealignai 发布 Ornith-1.5-122B 去对齐 NVFP4 与 GGUF 量化版

3 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

dealignai 在 Hugging Face 发布 Ornith-1.5-122B 的去对齐(移除拒绝行为)量化版,采用 MIT 许可。模型基于 Qwen3.5 系混合 GatedDeltaNet + 全注意力 MoE 架构,总参数 122B、激活 10B,保留原生 MTP 自推测解码与视觉能力。官方自测中,NVFP4 版 HarmBench-320 服从率 96.6%,MMLU-5k 相比 NVFP4 base 下降 1.69pp,为三个去对齐量化版本中能力回归最小者。 NVFP4 版磁盘占用约 71 GB,需 vLLM ≥0.11.0 及 NVFP4 内核,推荐在 NVIDIA Blackwell SM100(B200/GB200)上运行,SM120 消费级卡吞吐明显更慢。另有 GGUF 版提供 Q4_K_M(79.4 GB)和 IQ2_XXS(44.1 GB)两种量化,支持 llama.cpp 部署与 enable_thinking 开关,其自测合规率分别为 97.8% 和 99.7%,MMLU-5k 分别下降 2.85pp 和 5.08pp。 后续有 Infernix 格式的 NVFP4 打包发布,称经逐字校验可在单张 RTX 5090(32 GB)上运行,约需 70 GiB 主机内存和 76 GB 磁盘空间,速度仍在优化中。官方提示,面向终端用户部署前需另行配置下游安全控制。

AI 根据报道生成 · 21 小时前更新

事件进展

2 个进展

  1. 10月26日 08:43 · 1 篇报道
    上传 Ornith-1.5-122B 无对齐 NVFP4 打包
    Hugging Face · 新模型:uncensored:Ornith-1.5-122B-UNCENSORED NVFP4 版本发布,可单卡 RTX 5090 运行 Infernix 格式
  2. 10月21日 00:15 · 2 篇报道
    发布 Ornith-1.5-122B 去对齐 NVFP4 版
    Hugging Face · 新模型:uncensored:dealignai 发布 Ornith-1.5-122B-UNCENSORED-NVFP4 去对齐量化版

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. Hugging Face · 新模型:uncensored
    Ornith-1.5-122B-UNCENSORED NVFP4 版本发布,可单卡 RTX 5090 运行 Infernix 格式

    dealignai 在 Hugging Face 发布 Ornith-1.5-122B-UNCENSORED 的 NVFP4-Infernix 格式导出,这是去 refusals 版本的量化模型,基于 Qwen3.5-122B-A10B 架构(48 层、256 个路由专家每层取 top 8),附带 MTP 与 DFlash2 drafter。模型经逐字校验与 checkpoint 无失配,可在单张 RTX 5090(32 GB)上运行,约需 70 GiB 主机内存和 76 GB 磁盘空间,速度仍待优化测定。

10月21日
  1. Hugging Face · 新模型:uncensored精选
    dealignai 发布 Ornith-1.5-122B-UNCENSORED-NVFP4 去对齐量化版

    dealignai 在 Hugging Face 发布 Ornith-1.5-122B 的去对齐 NVFP4 量化版,基于 Qwen3.5 系混合 GatedDeltaNet + 全注意力 MoE 架构,122B 总参数 / 10B 激活,磁盘占用约 71 GB,MIT 许可。HarmBench-320 实测 96.6% 服从率,MMLU-5k 相比 NVFP4 base 下降 1.69pp,为三个去对齐量化版本中回归最小者;保留原生 MTP 头与视觉能力,支持 vLLM 推测解码,针对 NVIDIA Blackwell SM100(B200/GB200)优化,SM120 消费级卡上吞吐明显更慢。

  2. Hugging Face · 新模型:uncensored精选
    dealignai 发布 Ornith-1.5-122B 无对齐 GGUF 版本,附拒绝率与能力评测数据

    dealignai 在 Hugging Face 发布 Ornith-1.5-122B 的去对齐 GGUF 版本,基于 Qwen3.5 系混合 GatedDeltaNet + 全注意力 MoE 架构(122B 总参数 / 10B 激活),提供 Q4_K_M(79.4 GB)和 IQ2_XXS(44.1 GB)两种量化,均保留原生 MTP 自推测解码与视觉塔。HarmBench-320 评测中 IQ2_XXS 真实合规率 99.7%、Q4_K_M 为 97.8%;MMLU-5k 显示 Q4_K_M 整体较基座下降 2.85pp、IQ2_XXS 下降 5.08pp。模型支持 llama.cpp 部署与 enable_thinking 开关,MIT 许可,作者提醒需自行添加下游安全控制后再面向终端用户部署。

本事件热度走势

可比范围当前
5
可比范围峰值
910月26日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。