Hugging Face · 新模型:abliterated·· 9 天前AI 评分32
edp1096/Huihui-GLM-5.3-Flash-abliterated-FP4-Local 发布
edp1096/Huihui-GLM-5.3-Flash-abliterated-FP4-Local
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/edp1096/Huihui-GLM-5.3-Flash-abliterated-FP4-Local
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Hugging Face 用户 edp1096 发布 GLM-5.3-Flash 的非官方 NVIDIA FP4-Local 衍生版本,将 Huihui Q8 abliterated 权重的差量应用到 nvidia/GLM-5.3-Flash-FP4-Local 基座。更新了第 15–36 层的 44 个 attention-output/shared-expert-down 矩阵和 22 个 scale 张量,其余张量保留,无需额外 QAD 训练。运行需两台 DGX Sparks(TP2)和 B12X vLLM;42 个权重文件全部校验通过,8/8 冒烟测试通过,最长实测输入 64,481 tokens。
来源:Hugging Face · 新模型:abliterated · huggingface.co