跳到正文
Hugging Face · 新模型:uncensored·· 3 天前AI 评分23

GLM-5.2 FP8 Uncensored 的 Colibri int4 转换版发布

BenTheBoy27/GLM-5.2-FP8-Uncensored-Colibri-Int4-1

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/BenTheBoy27/GLM-5.2-FP8-Uncensored-Colibri-Int4-1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 上发布了 zandenAI/GLM-5.2-FP8-Uncensored 的 Colibri int4 独立转换版,供 C 推理引擎 JustVugg/colibri 使用,该引擎将稠密部分保留在内存中并从本地存储流式读取 MoE 专家权重。转换采用行式 int4 量化(嵌入与 LM head 为 int8,norms 与路由权重为 FP32),非标准 Transformers/vLLM/GGUF 格式,须用 Colibri 加载,遵循 MIT 许可。

来源:Hugging Face · 新模型:uncensored · huggingface.co