Un meteorólogo emite un pronóstico para la semana en segundos, pero no puede explicar ninguna de sus decisiones. Así funcionan aproximadamente los modelos de IA meteorológica actuales: ya no desmerecen frente a los métodos numéricos clásicos, pero su lógica interna está oculta tras millones de parámetros.

Un grupo de investigadores ha creado una herramienta que se adentra en esa 'caja negra'. Tomaron la red neuronal de grafos GraphCast, uno de los sistemas más avanzados, y aprendieron a espiar sus capas ocultas. La herramienta extrae las representaciones internas de los datos (una especie de 'pensamientos' del modelo) y las descompone en componentes simples mediante un análisis de componentes principales. Este método resalta los patrones más fuertes, algo así como ordenar fotografías por brillo y contraste.

En las primeras pruebas se encontraron direcciones que recuerdan a cosas familiares para los meteorólogos: ondas en la atmósfera de latitudes medias y la distribución del vapor de agua. No son patrones aleatorios. El modelo realmente capta procesos físicos, solo que los registra en su lenguaje interno. La herramienta ayuda a traducir ese lenguaje al humano.

Por ahora son solo primeros pasos, pero son importantes. Si aprendemos a leer los 'pensamientos' de las redes neuronales meteorológicas, podremos no solo verificar sus errores, sino también comprender mejor la propia atmósfera. Después de todo, el modelo quizás ve conexiones que escapan a las ecuaciones clásicas.