IndrasMirror 发布 Qwen3.8-Flash-Next 去审查量化版

IndrasMirror 在 Hugging Face 发布 Qwen3.8-Flash-Next-XQ-Uncensored，这是对 Qwen3.8-Flash-Next 做去审查（abliterated）处理后的量化版，总大小 78.83 GiB。 该模型为 125B 参数、6B 激活的 MoE，采用逐专家混合精度量化。发布方称去审查编辑在量化后保留 0.96–1.01（按激活变化在编辑方向上的分量测量，覆盖早、中、晚层），并在 RTX 4090（24 GB）+ 90 GB RAM + NVMe 单机上经 Xolotl 引擎实测解码 152.6 tok/s、prefill 4,285 tok/s。 该文件不是 llama.cpp、Ollama 或 LM Studio 可加载的 GGUF——各层专家使用不同的量化格式，这些运行时要求每张量单一类型；需使用 Xolotl 运行。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。