跳到正文
Hugging Face · 新模型:uncensored·· 8 天前AI 评分47

NeosQ 发布 Qwen3.8-Flash-Next-Uncensored 的 MTPLX 优化速度量化版

NeosQ/Qwen3.8-Flash-Next-Uncensored-MTPLX-Optimized-Speed

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/NeosQ/Qwen3.8-Flash-Next-Uncensored-MTPLX-Optimized-Speed

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

NeosQ 基于 OrcaRouter 去审查的 Qwen3.8-Flash-Next(125B-A6B MoE)BF16 权重,用 MTPLX Forge 按 flash-next-optimized-speed 配方制作 4-bit 量化版,总大小 115.3 GB,保留原生 MTP 投机解码头。在 M5 Max 128 GB 上 MTP 投机解码达 85.7 tok/s,为普通解码的 2.07 倍;需 Apple Silicon、macOS 14+ 及 96–128 GB 统一内存,支持 OpenAI/Anthropic 兼容 API,采用 Apache 2.0 许可证。

来源:Hugging Face · 新模型:uncensored · huggingface.co