跳到正文
Hugging Face · 新模型:abliterated·· 22 天前AI 评分34

fyb1214 发布 Huihui-Qwen3.8-27B-Abliterated-Ternary-Bonsai 的 NInfer 单文件封装

fyb1214/Huihui-Qwen3.8-27B-Abliterated-Ternary-Bonsai-NInfer

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/fyb1214/Huihui-Qwen3.8-27B-Abliterated-Ternary-Bonsai-NInfer

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

fyb1214 将 huihui-ai 的 abliterated Ternary-Bonsai-2-27B(消融第 22–52 层)重新封装为 NInfer 引擎可读的单文件 .ninfer 容器,基于 f16 版本用量化器重制 PQ2_0 与 PTQ1_0 两种打包,各 6.87 GiB,类型分布与 PrismML 原版 PQ2_0 一致。

来源:Hugging Face · 新模型:abliterated · huggingface.co