Gemma 4 : le 26B MoE bat des modèles 5x plus gros

Quatre variantes pensées pour des usages distincts :

→ E2B (2.3B effectifs) — texte + image + AUDIO en multimodal natif, contexte 128K, smartphone et Raspberry Pi → E4B (4.5B effectifs) — même multimodal, qualité supérieure, sweet spot mobilité → 26B MoE (4B paramètres actifs) — vision, contexte 256K, débit d’un 4B sur CPU → 31B dense — vision, contexte 256K, qualité maximale

Les chiffres qui comptent :

• Le 31B classé #3 sur Arena AI parmi tous les modèles ouverts. Bat des modèles 20x plus grands.
• Le 26B MoE #6 sur Arena. Avec seulement 4B actifs par token, il tourne ~10-15 tok/s sur CPU Snapdragon, RAM consommée ~20 Go.
• 140+ langues couvertes, thinking modes configurables.
• Apache 2.0. Pas de licence piégée.

Concrètement sur un laptop ARM 64 Go :

ollama pull gemma4:e4b      # multimodal mobile
ollama pull gemma4:26b      # qualité + vitesse, le sweet spot 2026
ollama pull gemma4:31b      # qualité max

Ce qui rend le 26B MoE intéressant : on paie la RAM d’un 26B mais on a la latence d’un 4B. Pour qui veut du gros modèle local sans la pénalité de débit, c’est probablement le meilleur compromis du moment.

Variantes ONNX disponibles côté Hugging Face (onnx-community/gemma-4-E2B-it-ONNX) pour qui veut tester en navigateur via transformers.js, ou bricoler du déploiement edge.

Pas encore de portage Qualcomm AI Hub stable pour exécution NPU directe, à surveiller.

Vous testez quelle variante en priorité ?