Hugging Face · 新模型：abliterated·· 7 天前AI 评分31
Huihui-Qwen3.8-Flash-Next-abliterated 的 Orinfer E8P Q2A8 量化部署发布
sprime01/Huihui-Qwen3.8-Flash-Next-abliterated-Orinfer-E8P-Q2A8
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/sprime01/Huihui-Qwen3.8-Flash-Next-abliterated-Orinfer-E8P-Q2A8
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 Orinfer E8P Q2A8 量化版本面向 Jetson AGX Orin 64GB 部署，采用近 2-bit E8P 编码与旋转处理，模型目录约 51.2 GB，只读权重约 34.52 GiB。支持文本、多图、thinking、prefix caching 与最多 7 drafts 的原生 MTP，上下文容量 262,144 tokens；实测 8,192 输入 prefill 达 809 tokens/s，Python 代码生成解码 53.84 tokens/s。权重采用 Qwen Community License 1.0，Orinfer 代码为 LGPL-3.0-or-later。
来源：Hugging Face · 新模型：abliterated · huggingface.co