Comment sonder l'esprit d'une IA météo express
Un météorologue émet en quelques secondes une prévision pour la semaine, mais ne peut expliquer aucune de ses décisions. C'est à peu près ainsi que fonctionnent les modèles météo basés sur l'IA : ils ne le cèdent plus rien aux méthodes numériques classiques, mais leur logique interne reste dissimulée derrière des millions de paramètres.
Une équipe de chercheurs a créé un outil qui plonge à l'intérieur d'une telle « boîte noire ». Ils ont pris le réseau de neurones à graphes GraphCast — l'un des systèmes les plus avancés — et ont appris à observer ses couches cachées. L'outil extrait les représentations internes des données (une sorte de « pensées » du modèle) et les décompose en composantes simples grâce à une analyse en composantes principales. Cette méthode met en évidence les structures les plus fortes — un peu comme trier des photos selon leur luminosité et leur contraste.
Lors des premiers tests, on a réussi à identifier des directions qui évoquent des phénomènes familiers aux météorologues : les ondes atmosphériques des latitudes moyennes et la répartition de la vapeur d'eau. Ce ne sont pas des motifs aléatoires. Le modèle capture bien des processus physiques, mais il les encode dans son langage interne. L'outil aide à traduire ce langage en langage humain.
Ce ne sont encore que des premiers pas, mais ils sont importants. Si nous apprenons à lire les « pensées » des réseaux de neurones météo, nous pourrons non seulement les vérifier pour détecter des erreurs, mais aussi mieux comprendre l'atmosphère elle-même. Car le modèle voit peut-être des relations qui échappent aux équations classiques.
Résumé original
tel que rédigé par les auteurs, en anglais arXiv:2604.20467
Artificial Intelligence (AI) weather models are improving rapidly, and their forecasts are already competitive with long-established traditional Numerical Weather Prediction (NWP). To build confidence in this new methodology, it is critical that we understand how these predictions are generated. This is a huge challenge as these AI weather models remain largely black boxes. In other areas of Machine Learning (ML), mechanistic interpretability has emerged as a framework for understanding ML predictions by analysing the building blocks responsible for them. Here we present an open-source, highly adaptable tool which incorporates concepts from mechanistic interpretability. The tool organises internal latent representations from the model processor and allows for initial analyses, including cosine similarity and Principal Component Analysis (PCA), enabling the user to identify directions in latent space potentially associated with meteorological features. Applying our tool to the graph neural network GraphCast, we present preliminary case studies for mid-latitude synoptic-scale waves and specific humidity. These demonstrate the tool's ability to identify linear combinations of latent channels that appear to correspond to interpretable features.
GraphCast est un réseau de neurones qui représente l'atmosphère non pas comme une grille, mais comme un graphe, où les nœuds sont des points sur le globe terrestre et les arêtes sont les connexions entre eux. Cette approche permet de mieux capturer les interactions à longue distance, par exemple comment une tempête dans l'Atlantique influence la météo en Europe.