Cómo una red neuronal aprende el clima con datos escasos ✛
Un estudiante que durante años resolvió problemas de libros ajenos recibe de repente tres cuadernos con observaciones reales del océano. Hay pocos problemas, pero ya ha visto cientos de similares, y ahora le bastan un par de ejemplos para captar el estilo del nuevo maestro. Así, un modelo de difusión (una red neuronal que aprende a eliminar el ruido de los datos) aprende el clima del Pacífico, donde la fase cálida de El Niño da paso a la fría La Niña y gobierna el tiempo en el planeta.
El problema es que las mediciones satelitales y de boyas de la temperatura superficial del océano solo existen desde mediados del siglo XX. En ese tiempo se han acumulado unas 720 mapas mensuales promedio, mientras que las redes neuronales con millones de parámetros suelen necesitar miles de ejemplos. Para comprobar honestamente qué ha aprendido el modelo, los autores crearon un banco de pruebas: generaron 120 000 campos sintéticos con estructura conocida. Con estos datos, el modelo reprodujo con precisión tanto la variabilidad simétrica como la asimétrica , pero en cuanto redujeron la muestra al tamaño real, comenzó a memorizar los ejemplos de entrenamiento en lugar de generalizar.
La salida la sugirió la propia naturaleza del aprendizaje. Primero, el modelo se preentrenó con campos sintéticos de 30 modelos climáticos del proyecto CMIP6, añadiendo a la arquitectura un vector de ocho dimensiones que codifica la identidad de cada modelo. Luego, con las 720 observaciones reales, se ajustó solo ese vector. Este enfoque logró una correlación de patrones superior a 0.85 y una correlación de asimetría superior a 0.9, superando a los modelos lineales clásicos. El estudiante, entrenado en multitud de mundos virtuales, domina el único mundo real con unos pocos ejemplos.
Esto cambia la idea de cómo los modelos generativos pueden trabajar en las ciencias de la Tierra: no como sustitutos de los modelos físicos, sino como herramientas para extraer estructura de muestras empíricas escasas. El método puede aplicarse para generar conjuntos realistas de estados de El Niño en la evaluación de riesgos climáticos, así como para mejorar los modelos estadísticos de [tag:prediction]predicción en condiciones de escasez de datos. El estudiante que empezó con libros ajenos ahora escribe páginas nuevas.
Los modelos de difusión, que hoy generan rostros y paisajes realistas, se inspiraron originalmente en la termodinámica del no equilibrio, la ciencia de cómo los sistemas pasan del orden al caos. En este trabajo, ese mismo principio se invierte para recuperar estructuras climáticas ordenadas a partir del ruido.
La idea de entrenar una máquina en muchos mundos virtuales y luego ajustarla a un único mundo real recuerda al relato de Ted Chiang «La historia de tu vida», donde una lingüista aprende el idioma de los alienígenas apoyándose en múltiples gramáticas hipotéticas para comprender una única gramática real.