跳到正文
Hugging Face · 新模型:abliterated·· 10 天前AI 评分38

Xing4.0-29B-A4B APEX-I-MiniPlus-V2.1 Abliterated GGUF 量化发布

npario/Xing4.0-29B-A4B-APEX-I-MiniPlus-V2.1-Abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/npario/Xing4.0-29B-A4B-APEX-I-MiniPlus-V2.1-Abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 上发布 Xing4.0-29B-A4B 的 Abliterated 版 GGUF 量化,基于 huihui-ai/Huihui-Xing4.0-29B-A4B-abliterated,采用逐 tensor 混合精度布局,文件 13.76 GB(3.42 BPW),WikiText-2 PPL 7.7238,较 BF16 源(7.3060)仅上升 5.71%,达 Q5_K_M 级质量。该模型为 29B 总参数、每 token 约 4B 激活的 MoE 架构,含 mHC、MLA 与 MTP,原生 256K 上下文,可扩展至 512K,适合消费级 GPU 与 RAM/GPU 混合部署。

来源:Hugging Face · 新模型:abliterated · huggingface.co