Синоптик смотрит на карту, где облака сбиваются в стаи, как птицы перед грозой. Каждое пятно на радаре — это будущий ливень или просто шум. Прогноз земной системы похож на попытку собрать пазл из тысяч кусочков, которые постоянно меняют форму.

Раньше для прогноза погоды использовали численные модели, которые решают уравнения физики атмосферы. Они точные, но медленные и дорогие. Нейросети уже научились предсказывать дождь по снимкам неба, но старые архитектуры слишком жёстко привязаны к форме данных. А погода хаотична: маленькое изменение в одном месте может вызвать бурю в другом.

Новая модель Earthformer режет данные на кубики — блоки размером время × высота × ширина. Внутри каждого кубика нейросеть взвешивает важность точек друг для друга. Кубики не видят друг друга напрямую, но их связывает небольшой набор глобальных векторов. Эти векторы собирают сводку со всех кубиков и возвращают её обратно, как курьер, который разносит новости по кварталам.

На тестах с движущимися цифрами Earthformer ошибается меньше, чем шесть других моделей. На реальных данных о дождях она предсказывает осадки точнее, чем Rainformer и UNet. Для прогноза Эль-Ниньо, тёплого течения, которое меняет погоду по всей планете, модель тоже показывает лучший результат. Глобальные векторы дают прирост без замедления расчётов.

Раньше было неясно, как применить трансформеры к трёхмерным данным прогноза погоды, не утонув в вычислениях. Теперь понятно: разрезание на кубики и глобальные векторы позволяют нейросети работать точнее и быстрее. Модель можно использовать для оперативного прогноза осадков и температуры океана.

Синоптик снова смотрит на карту, но теперь кубики внимания собирают картину мира по частям, как мозаика, где каждый фрагмент знает о целом.