Hugging Face · 新模型:uncensored·· 15 小时前精选AI 评分66
Lyber AI 发布 Hy4-flash 去对齐 MXFP4 权重版,附 MMLU 与 HarmBench 实测
lyber-ai/Hy4-flash-UNCENSORED-MXFP4
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/lyber-ai/Hy4-flash-UNCENSORED-MXFP4
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Lyber AI 基于 tencent/Hy4-flash(Hunyuan V4 Flash)发布移除拒绝行为的 UNCENSORED-MXFP4 版本,采用 MXFP4 MoE 权重加 FP8 attention 的 compressed-tensors 格式,约 217 GB,保留扩展思考、工具调用和 128K 上下文。作者附实测数据:MMLU 228 题子集上 no_think 为 86.40%、high 模式为 89.91%,较 FP8 原版差距约 2.5 个百分点内;HarmBench-320 中有害类内容 COMPLY 率 98.8%,high 模式在版权类因 4096 token 推理预算受限降至 47/80。部署需 Lyber 修补的 vLLM 镜像,推荐 8×B300 TP8。
推荐理由
作者给出了MMLU与HarmBench的拒绝率前后对比和熵稳定性数据,可据此判断量化去对齐版本的能力与行为代价。
来源:Hugging Face · 新模型:uncensored · huggingface.co