跳到正文
Hugging Face · 新模型:abliterated·· 11 天前AI 评分26

Huihui-Qwen3.8-27B-abliterated 发布 RBLN 编译版,适配 16× RBLN-CA25 NPU

iAcloud/Huihui-Qwen3.8-27B-abliterated-RBLN-0.11.2

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/iAcloud/Huihui-Qwen3.8-27B-abliterated-RBLN-0.11.2

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

iAcloud 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 RBLN 预编译版本,使用 optimum-rbln 0.11.2 针对 16 块 Rebellions RBLN-CA25 NPU 编译,支持 262,144 上下文长度和 batch-1 解码,编译耗时 990.9 秒,产物约 55.8 GiB。该版本为编译验证版而非推理基准,运行时加载、生成与长上下文精度尚未测试,需 RBLN NPU 和 RBLN SDK,采用 Apache-2.0 许可。

来源:Hugging Face · 新模型:abliterated · huggingface.co