跳到正文
热点事件持续更新

Lyber AI 发布 Hy4-flash 去对齐 MXFP4 量化版

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

Lyber AI 基于腾讯 Hy4-flash(Hunyuan V4 Flash)发布移除拒绝行为的 UNCENSORED-MXFP4 版本,作者实测称该模型在有害类请求中的配合率达 98.8%,能力较 FP8 原版差距约 2.5 个百分点以内。 该模型采用 MXFP4 MoE 权重加 FP8 attention 的 compressed-tensors 格式,约 217 GB,保留扩展思考、工具调用和 128K 上下文。作者附上的 HarmBench-320 实测显示,有害类内容(非版权类 240 题)COMPLY 率为 98.8%,high 模式在版权类因 4096 token 推理预算受限降至 47/80;MMLU 228 题子集上 no_think 为 86.40%、high 模式为 89.91%。 部署需使用 Lyber 修补的 vLLM 镜像(upstream PR 尚待合入),推荐 8×B300 TP8;作者称此修改不改变原有许可证条款。

AI 根据报道生成 · 20 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. Hugging Face · 新模型:uncensored精选
    Lyber AI 发布 Hy4-flash 去对齐 MXFP4 权重版,附 MMLU 与 HarmBench 实测

    Lyber AI 基于 tencent/Hy4-flash(Hunyuan V4 Flash)发布移除拒绝行为的 UNCENSORED-MXFP4 版本,采用 MXFP4 MoE 权重加 FP8 attention 的 compressed-tensors 格式,约 217 GB,保留扩展思考、工具调用和 128K 上下文。作者附实测数据:MMLU 228 题子集上 no_think 为 86.40%、high 模式为 89.91%,较 FP8 原版差距约 2.5 个百分点内;HarmBench-320 中有害类内容 COMPLY 率 98.8%,high 模式在版权类因 4096 token 推理预算受限降至 47/80。部署需 Lyber 修补的 vLLM 镜像,推荐 8×B300 TP8。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。