跳到正文
Hugging Face · 新模型:uncensored·· 13 天前AI 评分40

TokForge 发布 Qwen3.5-4B-uncensored NPU catalog pair 加速包

darkmaniac7/Qwen3.5-4B-uncensored-NPU-catalogpair

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/darkmaniac7/Qwen3.5-4B-uncensored-NPU-catalogpair

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

TokForge 发布面向 Qwen3.5 4B Abliterated(huihui-ai 去审查版)的 NPU prompt pack,在 Snapdragon 8 Elite Gen 5(Hexagon V81,3.67 GB)与 Snapdragon 8 Gen 3(V75,3.65 GB)上让手机 NPU 分 128-token 块读取长提示词,CPU 生成回复,占用约 6.3 GB 内存。该包从 darkmaniac7/Qwen3.5-4B-uncensored-MNN commit 9416259dd5ed 的 int4 权重导出,经 QAIRT 2.40.0.251030 编译为各 49 个 QNN context binary,仅支持上述两款芯片,License 为 Apache-2.0。

来源:Hugging Face · 新模型:uncensored · huggingface.co