Mistral 发布 1T 参数开源多模态 MoE 模型 Mistral Large 4
先了解这件事
Mistral 发布开放权重的多模态 MoE 模型 Mistral Large 4(代号 Le Chonk),总参数约 1T,每 token 激活约 49B(含 embedding 和输出层约 52B),采用 128 个路由专家加 1 个共享专家的架构,提供 1M 上下文窗口,支持 160+ 语言。模型已上线 Mistral API(mistral-large-4),并登陆 Hugging Face。官方变体为 FP8 和 NVFP4,ggml-org 与 unsloth 另发布了 GGUF 量化版,llama.cpp 支持已合并。
AI 根据报道生成 · 13 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Reddit · r/LocalLLaMA精选Mistral 发布万亿参数多模态 MoE 模型 Mistral Large 4,开放权重并放出 GGUF 量化版
Mistral 发布 Mistral Large 4(代号 Le Chonk),开放权重:总参数约 1T、每 token 激活约 52B(含 embedding 和输出层),128 个路由专家加 1 个共享专家的 MoE,原生多模态,1M 上下文窗口,支持 160+ 语言。采用 Mistral Ecosystem Open-Weight License(MIT 修改版,商用可用,但运营 Model-as-a-Service 需另签商业许可)。ggml-org 已放出 GGUF 与 NVFP4-GGUF 量化版,unsloth 也发布 GGUF,llama.cpp 支持已合并(PR #31376),并上线 Mistral API 作为 mistral-large-4。
- Hugging Face Blog精选Mistral Large 4(Le Chonk)登陆 Hugging Face
Hugging Face 官方博客介绍 Mistral 开放权重的多模态 MoE 模型 Mistral Large 4(Le Chonk),总参数约 1T、激活 49B、上下文 1M tokens,采用 MLA 加 DeepSeek 稀疏注意力与 Pixtral 视觉编码器。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。