Meta 发布 Llama 4 Maverick 与 Scout——开放多模态 MoE 系列
Meta 于 2025 年 4 月 5 日推出 Llama 4 系列,发布了两款开放权重多模态模型:Maverick(17Bx128E,4000 亿总参数,100 万 token 上下文)和 Scout(17Bx16E,1090 亿总参数,1000 万 token 上下文)。两者均采用早期融合 MoE 架构,支持原生图像与文本推理,训练 token 数量分别约为 22 万亿和 40 万亿,知识截止日期为 2024 年 8 月。此次发布确立了 Meta 作为竞争性开放权重多模态模型的地位。