Google описывает Gemma 4 с MoE, thinking и контекстом 256K
Launch post Google описывает Gemma 4 как open-model семейство из пяти размеров — E2B, E4B, 12B, 26B A4B и 31B; 26B A4B является mixture-of-experts вариантом с примерно 4B active parameters на токен, вводом изображений и текста, текстовым выводом, thinking, function calling и контекстом до 256K.