Hugging Face · 新模型:abliterated·· 18 天前AI 评分45
Huihui-Qwen3.8-Flash-Next-abliterated 推出 Orinfer E8P Q2A8 量化版,面向 Jetson AGX Orin 64GB 部署
immiq/Huihui-Qwen3.8-Flash-Next-abliterated-Orinfer-E8P-Q2A8
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/immiq/Huihui-Qwen3.8-Flash-Next-abliterated-Orinfer-E8P-Q2A8
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
immiq 发布 huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 Orinfer E8P Q2A8 量化部署包,专为 Jetson AGX Orin 64GB 设计,源模型通过 abliteration 减少拒答。模型支持文本、多图、thinking、prefix caching 和原生 MTP(最多 7 drafts),上下文容量 262,144 tokens,只读权重约 51.4 GB。在 Jetson AGX Orin 64GB 实测中,文本预填充 8,192 tokens 达 809 tokens/s,Python 代码生成解码速度 53.84 tokens/s,权重采用 Qwen Community License 1.0 许可。
来源:Hugging Face · 新模型:abliterated · huggingface.co