跳到正文
Hugging Face · 新模型:uncensored·· 3 小时前AI 评分46

MiMo-V2.6-Flash-RL-UNCENSORED VQ GGUF 量化转换进行中

Baekpica/MiMo-V2.6-Flash-RL-UNCENSORED-VQ-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Baekpica/MiMo-V2.6-Flash-RL-UNCENSORED-VQ-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

dealignai 基于 Xiaomi 309B(15B 激活)原生全模态 MoE 模型 MiMo-V2.6-Flash-RL 的去审查版正在转换为 VQ GGUF,保留完整 1,048,576 token 上下文、视觉/音频模块、DFlash 草稿模型与 MTP 头,目标单台 128 GB DGX Spark 运行。路由专家采用 8 维向量量化(13-bit 加 32 层 8-bit 残差,平均 2.31 bpw),GA 层 KV 改用 FP8 使 1M 上下文缓存降至 11.39 GiB;需 ds4-dfm-rs 的 mimo2_vq 运行时(实现中)。

来源:Hugging Face · 新模型:uncensored · huggingface.co