Google a lancé Gemma 4 12B, un modèle conçu pour s'exécuter localement sur ordinateur portable avec 16 Go de VRAM ou de mémoire unifiée source. Publié sous licence Apache 2.0, il est disponible en téléchargement sur Hugging Face et Kaggle source.
Une architecture unifiée sans encodeurs
La particularité technique de ce modèle réside dans l'abandon des encodeurs multimodaux classiques. Au lieu d'avoir des modules séparés qui traduisent les signaux visuels ou sonores avant de les envoyer au LLM, les entrées audio et visuelles sont transmises directement au backbone du modèle source.
Ce changement se traduit par deux simplifications majeures :
- Côté vision : l'encodeur est remplacé par un module d'incorporation léger, composé d'une seule multiplication matricielle, d'un embedding positionnel et de normalisations source.
- Côté audio : l'encodeur est totalement supprimé. Le signal audio brut est projeté directement dans le même espace dimensionnel que les tokens de texte source.
Gemma 4 12B est ainsi le premier modèle de taille moyenne de Google à intégrer nativement des entrées audio source.
Latence et performances revendiquées
Pour limiter la latence lors de l'exécution, Google a intégré des drafters de Multi-Token Prediction (MTP) source.
Concernant l'efficacité, l'entreprise affirme que les performances de ce modèle 12B s'approchent de celles du modèle 26B MoE sur les benchmarks standards, tout en occupant moins de la moitié de l'empreinte mémoire source. Cette affirmation provient exclusivement de Google et repose sur des tests internes ; elle n'est pas confirmée par des audits indépendants.
En supprimant les étapes de traitement intermédiaires, Google tente de rendre l'IA « agentique » — capable d'interagir avec son environnement via plusieurs modalités — viable sur du matériel grand public. Reste à voir si cette simplification architecturale ne dégrade pas la précision de la compréhension audio et visuelle par rapport aux modèles utilisant des encodeurs dédiés.