MiMo-V2.6-Flash-RL 去对齐版 VQ GGUF 量化转换进行中
先了解这件事
Baekpica 在 Hugging Face 发布去对齐版 MiMo-V2.6-Flash-RL-UNCENSORED 的 VQ GGUF 量化转换设计卡，转换正在进行中。该模型基于 Xiaomi 309B（15B 激活）原生全模态 MoE 模型 MiMo-V2.6-Flash-RL，其去审查版由 dealignai 在权重层面移除拒绝行为，目标是单台 128 GB DGX Spark 运行。 转换保留完整 1,048,576 token 上下文、视觉/音频模块、DFlash 草稿模型与 MTP 头。路由专家采用 8 维向量量化（13-bit 加 32 层 8-bit 残差，平均 2.31 bpw），GA 层 KV 改用 FP8，使 1M 上下文缓存降至 11.39 GiB。运行需 ds4-dfm-rs 的 mimo2_vq 运行时（实现中），标准 llama.cpp、Ollama 和 Transformers 加载器均不支持该格式。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Hugging Face · 新模型：uncensoredMiMo-V2.6-Flash-RL-UNCENSORED VQ GGUF 量化转换进行中
dealignai 基于 Xiaomi 309B（15B 激活）原生全模态 MoE 模型 MiMo-V2.6-Flash-RL 的去审查版正在转换为 VQ GGUF，保留完整 1,048,576 token 上下文、视觉/音频模块、DFlash 草稿模型与 MTP 头，目标单台 128 GB DGX Spark 运行。路由专家采用 8 维向量量化（13-bit 加 32 层 8-bit 残差，平均 2.31 bpw），GA 层 KV 改用 FP8 使 1M 上下文缓存降至 11.39 GiB；需 ds4-dfm-rs 的 mimo2_vq 运行时（实现中）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。