跳到正文
Hugging Face · 新模型:uncensored·· 5 天前AI 评分50

na0fu3y 发布 Qwen3.8-Flash-Next-Uncensored 的 mlx-serve iQ-MLX 4.7bpw 量化版

na0fu3y/Qwen3.8-Flash-Next-Uncensored-MLX-Serve-iQ-MLX-4.7bpw

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/na0fu3y/Qwen3.8-Flash-Next-Uncensored-MLX-Serve-iQ-MLX-4.7bpw

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

na0fu3y 发布 Qwen3.8-Flash-Next-Uncensored 的 mlx-serve iQ-MLX 4.7bpw 量化版,基于 orcarouter 的 abliterated bf16 权重,路由专家为 4-bit、其余多为 8-bit,含 MTP 头和视觉塔,移除安全对齐后可响应原模型拒绝的请求。下载体积 100 GB,无 --ple-gpu 时常驻约 75 GB;在 M3 Ultra 上 decode 速度约 124.3-124.8 tok/s,13 个边缘提示词中仅 1 个被拒绝(对照组为 11 个)。许可证为 Qwen Community License 1.0。

来源:Hugging Face · 新模型:uncensored · huggingface.co