Mistral vient de publier Mistral Large 4, surnommé « Le Chonk », sur Hugging Face. Ce modèle multimodal, capable de traiter du texte et des images, repose sur une architecture Mixture-of-Experts (MoE) affichant environ 1 billion de paramètres au total, dont 49 milliards sont actifs lors de l'exécution source.\n\n### Une stratégie de parcimonie multicouche\n\nL'efficacité de ce modèle repose sur l'utilisation de deux mécanismes de sparsité (parcimonie) distincts pour optimiser le calcul. D'une part, le système Mixture-of-Experts sélectionne un petit groupe d'experts parmi un pool étendu pour chaque token généré. D'autre part, l'attention utilise un indexeur de type DeepSeek Sparse Attention (DSA) qui sélectionne précisément les positions de tokens antérieurs auxquelles prêter attention source.\n\nCette architecture est complétée par l'intégration d'un encodeur de vision Pixtral de 1,6 milliard de paramètres, permettant au modèle de traiter des entrées visuelles en plus du texte source. Ce choix technique vise à concilier une capacité de traitement massive avec une consommation de ressources optimisée par la sélection ciblée des paramètres actifs.\n\n### L'avantage stratégique de l'open-weight en cybersécurité\n\nAu-delà de l'architecture, Mistral met en avant les capacités de cybersécurité du modèle, avec un score de 82 % au test Artificial Analysis Cyber Index. Ce benchmark consiste à demander au modèle de reproduire une vulnérabilité réelle dans un logiciel open-source, puis de la corriger source.\n\nLe choix de distribuer le modèle en « poids ouverts » (open-weight) présente un intérêt crucial pour les professionnels de la défense. Contrairement à certains modèles fermés qui refusent d'exécuter des tâches de reproduction de vulnérabilités par excès de prudence, Mistral Large 4 permet de mener des analyses de malwares ou de recherche de vulnérabilités sans les restrictions d'usage imposées par des API propriétaires source. Cela offre aux équipes de sécurité la possibilité de déployer le modèle localement, garantissant la continuité de l'outil même lors d'incidents critiques où les filtres des fournisseurs pourraient bloquer les requêtes.\n\n### Une licence sous contrôle\n\nToutefois, la liberté offerte par l'open-weight est encadrée. Le modèle est distribué sous la Mistral Ecosystem Open-Weight License. Il s'agit d'une variante de la licence MIT qui impose des limitations spécifiques pour les offres de type « modèle-en-tant-que-service » (model-as-a-service), empêchant ainsi une exploitation commerciale directe qui contournerait le modèle économique de l'entreprise source.