ResoNet: переводчик, который слышит океан за полтора года ✎

Оригинал: "ResoNet: Robust and Explainable ENSO Forecasts with Hybrid Convolution and Transformer Networks"
arXiv:2312.10429 · 2023-12-16 · arXiv non-exclusive · собственный разбор · 2 мин
Гибридная нейросеть предсказывает Эль-Ниньо на 19–26 месяцев вперёд и объясняет, на какие сигналы опирается.

Переводчик в большом зале слышит и шёпот у самого уха, и разговор в другом конце. Одна и та же голова улавливает локальные интонации и держит нить общей беседы. Так устроена ResoNet — нейросеть, которая предсказывает Эль-Ниньо.

Эль-Ниньо — это тёплое течение в экваториальной части Тихого океана, которое раз в несколько лет меняет погоду на всех континентах. Его противоположная фаза, Ла-Нинья, приносит холодную воду.

До сих пор прогнозы на год и дальше были ненадёжны: океан слишком сложен, а модели не связывали далёкие друг от друга регионы. ResoNet делает иначе. Свёрточные слои, как внимательное ухо, ловят локальные аномалии температуры — например, тёплое пятно у берегов Перу. Трансформер, как слух на весь зал, соединяет эти пятна с процессами в Индийском океане и южной части Тихого. Вместе они дают прогноз на 19–26 месяцев вперёд.

Сеть обучили на 3240 образцах из 20 климатических моделей, а затем дообучили на 103 годах реальных наблюдений. Для устойчивости использовали ансамбль из 20 нейросетей: каждая училась на своей подвыборке, а итоговый прогноз — среднее их ответов.

Важно не только то, что сеть предсказывает, но и почему. Метод интегрированных градиентов показывает, на какие пиксели входной карты сеть смотрела сильнее всего. Оказалось, при дальних прогнозах ResoNet обращает внимание на южную часть Тихого океана и Индийский океан, а при ближних — на экваториальную зону. Это совпадает с известными механизмами: тёплая вода накапливается вне экватора перед Эль-Ниньо, а Индийский океан работает как конденсатор, отдавая тепло с задержкой.

Впервые нейросеть уловила асимметрию: для Эль-Ниньо за 18 месяцев важна южная часть Тихого океана, а для Ла-Ниньи — восточная экваториальная зона. Раньше такие различия видели только в динамических моделях. Теперь переводчик не просто повторяет услышанное, но и объясняет, какие голоса в зале были решающими. Именно это снижает скепсис: ResoNet не чёрный ящик, а инструмент, который можно проверить на соответствие физике океана.

Бэггинг, использованный в ResoNet, пришёл из статистики 1990-х: его предложил Лео Брейман, тот самый автор знаменитых случайных лесов. А метод интегрированных градиентов назван так потому, что накапливает вклад каждого пикселя вдоль пути от нулевого изображения к реальному.

В романе Кима Стэнли Робинсона «Сорок знаков дождя» климатологи отчаянно пытаются предсказать резкие сдвиги погоды. ResoNet — шаг к тому, чтобы такие предсказания стали рутиной, а не сюжетом катастрофы.

Понятия
южная осцилляция эль-ниньо энсо ERSST модель осциллятора с подзарядкой весенний барьер предсказуемости индекс Эль-Ниньо ла-нинья многомерный индекс ЭНСО регрессия нейронной сети относительный они модель Джина–Тиммермана распространение экваториальных волн NOAA CPC большие языковые модели глубокая нейронная сеть NOAA PMEL TAO южная осцилляция заблаговременность прогноза теория запаздывающего осциллятора свёрточные нейронные сети