跳到正文
Hugging Face · 新模型:abliterated·· 9 天前AI 评分32

edp1096/Huihui-GLM-5.3-Flash-abliterated-FP4-Local 发布

edp1096/Huihui-GLM-5.3-Flash-abliterated-FP4-Local

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/edp1096/Huihui-GLM-5.3-Flash-abliterated-FP4-Local

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 用户 edp1096 发布 GLM-5.3-Flash 的非官方 NVIDIA FP4-Local 衍生版本,将 Huihui Q8 abliterated 权重的差量应用到 nvidia/GLM-5.3-Flash-FP4-Local 基座。更新了第 15–36 层的 44 个 attention-output/shared-expert-down 矩阵和 22 个 scale 张量,其余张量保留,无需额外 QAD 训练。运行需两台 DGX Sparks(TP2)和 B12X vLLM;42 个权重文件全部校验通过,8/8 冒烟测试通过,最长实测输入 64,481 tokens。

来源:Hugging Face · 新模型:abliterated · huggingface.co