Свёрточная память океана: как нейросеть предсказывает Эль-Ниньо по картам температуры ✎

Оригинал: "Convolutional GRU Network for Seasonal Prediction of the El Niño-Southern Oscillation"
arXiv:2306.10443 · 2023-06-18 · arXiv non-exclusive · собственный разбор · 3 мин
Свёрточная рекуррентная сеть учится на тысячелетней климатической летописи и предсказывает карты температуры Тихого океана на два года вперёд точнее классических моделей.

Контекст

Прогноз Эль-Ниньо десятилетиями держится на двух китах: динамических моделях, которые дорого считать, и статистических, которые дёшевы, но слепы к пространственной структуре океана. Линейная обратная модель (LIM) предполагает линейную динамику, аналоговое прогнозирование (AF) ищет похожие состояния в архиве, но оба подхода не выдают карту температуры целиком — только индекс. Рекуррентные сети вроде LSTM уже пробовали, но они либо векторизуют карту и теряют соседство точек, либо не масштабируются на весь Тихий океан. Работа стоит на отшибе: ближайшие соседи в архиве заняты преобразованием Фурье и фильтрацией сигналов, но не пространственно-временным прогнозом климатических полей. Это первая проверка свёрточной GRU на тысячелетнем климатическом ансамбле с выходом полной карты, а не одного числа.

Методы

Сеть устроена как кодировщик-декодировщик. Кодировщик из трёх слоёв свёрточных GRU-ячеек сжимает 48 ежемесячных карт температуры Тихого океана (сетка 64×64) в скрытые состояния. Декодировщик из тех же ячеек, но с деконволюцией, разворачивает эти состояния в 24 карты региона Эль-Ниньо (сетка 12×10). Ключевая деталь: свёртка вместо полносвязного умножения. Каждая точка карты обновляется, глядя только на соседей в окне ядра, поэтому сеть улавливает пространственные корреляции и сокращает число параметров в разы. Обучали на данных модели CCSM4: 1099 лет доиндустриальной симуляции пошли в обучение, 200 лет — в тест. Второй тест — 30 ансамблей NOAA SPEAR с 1921 по 2100 год, обучение до 2050, прогноз после. Для сравнения взяли LIM, аналоговое прогнозирование с ядром (KAF), обычную GRU и линейную регрессию.

Результаты

На тысячелетней симуляции CCSM4 свёрточная сеть держит корреляцию Пирсона выше 0.6 для индекса Niño 3.4 вплоть до 18–19 месяцев вперёд. Это на 3–4 месяца дольше, чем у KAF, на 6–7 месяцев дольше, чем у LIM, и на 10–11 месяцев дольше, чем у обычной GRU и линейной регрессии. Среднеквадратичная ошибка падает соответственно. На ансамбле NOAA SPEAR полезный диапазон прогноза составил 12 месяцев против 7–8 у LIM и GRU и 5 у линейной регрессии. Сеть также предсказала карты температуры воздуха на двух третях поверхности Земли с корреляцией выше 0.99 на 12 месяцев вперёд и ошибкой около 1.1–1.2 °C. Визуально предсказанные карты Эль-Ниньо почти неотличимы от истинных: тёплый язык у берегов Перу появляется в нужный месяц и в нужном месте.

Значение

Работа показывает, что свёрточная рекуррентная сеть способна заменить целый класс статистических моделей Эль-Ниньо, выдавая не только индекс, но и полную карту аномалий температуры. Это важно для прогноза региональных последствий: засух в Австралии, торнадо в США, интенсивности тайфунов на северо-западе Тихого океана. Отличие от соседей по архиву принципиальное: те работают с одномерными сигналами и спектрами, а здесь сеть учится на двумерных полях и сохраняет пространственную структуру. По сути, это перенос методов компьютерного зрения в климатологию, причём не на короткие прогнозы погоды, а на сезонный масштаб.

Развитие

Следующий логичный шаг — заменить GRU на трансформеры с вниманием, которые уже показали силу в прогнозе погоды. Можно также увеличить разрешение карт и добавить другие переменные: ветер, давление, теплоёмкость верхнего слоя океана. Отдельная ветка — построение оперативной системы прогноза, которая обновляется ежемесячно по мере поступления данных наблюдений. Авторы прямо пишут, что их архитектура — фундамент для такой системы.

Влияние

Прогноз Эль-Ниньо влияет на сельское хозяйство, страхование, логистику и государственное планирование. Более длинный полезный прогноз означает, что фермеры в Перу или пожарные службы в Австралии получают предупреждение на несколько месяцев раньше.

Следующие шаги

Проверить сеть на реальных данных наблюдений, а не только на модельных симуляциях. Исследовать перенос обучения между разными климатическими моделями и эпохами.

Ключевые проблемы

Нерешённая проблема климатологии — нелинейность Эль-Ниньо: взаимодействие подповерхностных течений, ветра и температуры не описывается линейными уравнениями. Эта работа показывает, что глубокая сеть может аппроксимировать эту нелинейность напрямую по данным, без физических уравнений. Вопрос о том, насколько такой «чёрный ящик» надёжен при изменении климата, остаётся открытым.

Обучение проходило на симуляции, которая началась в 850 году и закончилась в 2150-м. Сеть никогда не видела реальных спутниковых данных, но её прогнозы для XXI века совпадают с наблюдениями лучше, чем у моделей, обученных на коротких рядах.

В романе Кима Стэнли Робинсона «Министерство будущего» Эль-Ниньо становится спусковым крючком глобальной катастрофы. Сеть, предсказывающая его за два года, могла бы дать героям романа время на подготовку.

H_t = (1 - z_t) \odot \tilde{H}_t + z_t \odot H_{t-1}
Новое скрытое состояние — это смесь кандидата и предыдущего состояния, где вентиль z_t решает, сколько прошлого сохранить.

Ключевые числа

  • полезный прогноз Niño 3.4 на CCSM4: 18–19 месяцев
  • полезный прогноз Niño 3.4 на NOAA SPEAR: 12 месяцев
  • корреляция для температуры воздуха на 12 месяцев: 0.99
  • ошибка температуры воздуха: 1.1–1.2 °C
  • длина обучающей симуляции: 1300 лет
Понятия
индекс Эль-Ниньо ERSST весенний барьер предсказуемости энсо регион Нино 3.4 ла-нинья модель Джина–Тиммермана многомерный индекс ЭНСО южная осцилляция относительный они распространение экваториальных волн модель осциллятора с подзарядкой регрессия нейронной сети буйковые станции TAO/TRITON NOAA CPC северное экваториальное противотечение oisst nrt свёрточные нейронные сети объём тёплой воды NOAA PMEL TAO