SFANet: переводчик, который слышит и слова, и интонацию ✛ ✎

Оригинал: "SFANet: Spatial-Frequency Attention Network for Weather Forecasting"
arXiv:2405.18849 · 2024-05-29 · arXiv non-exclusive · собственный разбор · 2 мин
Нейросеть учится предсказывать дождь и Эль-Ниньо, одновременно разглядывая карту и её «частотную партитуру».

Переводчик на переговорах улавливает не только слова, но и тон, с которым они сказаны. Если он сосредоточится только на лексике, то пропустит сарказм или усталость в голосе. Если только на интонации — переврёт детали договора. В прогнозе погоды происходит похожая история: спутниковые снимки несут и локальные детали вроде грозовых ячеек, и глобальные волны, которые тянутся через весь океан.

Обычные нейросети, как правило, выбирают что-то одно. Одни разглядывают картинку по кусочкам и хорошо видят мелкие облака, но не чувствуют, что над континентом навис общий циклон. Другие смотрят на всю карту сразу, но тогда отдельные ливни сливаются в мутное пятно. SFANet работает иначе: она обрабатывает данные дважды, в двух разных «языках».

Первый язык — пространственный: сеть усредняет соседние участки снимка, как если бы переводчик записывал ключевые слова. Второй язык — частотный: преобразование Фурье раскладывает картинку на крупные и мелкие волны, как переводчик различает тембр и ритм речи.

Дальше вступает модуль пространственно-частотного внимания. Он сопоставляет два «перевода» и решает, какой информации доверять в каждом месте прогноза. Например, для слабого моросящего дождя важнее усреднённая картина, а для грозового фронта — резкие перепады. Такой подход позволяет модели с 16,4 миллиона параметров обойти более тяжёлых конкурентов: на наборе SEVIR ошибка MSE снижается до 2.7308, а метрика CSI-16 достигает 0.7887.

Для прогноза Эль-Ниньо — тёплого течения, которое раз в несколько лет меняет погоду по всей планете — улучшение составляет 4,7% по ключевой метрике. Это много, если учесть, что от точности такого прогноза зависят урожаи и запасы воды. При этом модель обучалась всего на четырёх ускорителях A100, что делает её доступной для оперативных метеослужб.

Возвращаясь к переводчику: он не просто слушает два канала, а понимает, когда какой важнее. SFANet делает то же самое с картами осадков и температур. Раньше модели погоды напоминали переводчиков, которые либо закрывали глаза и вслушивались в интонацию, либо затыкали уши и читали по губам. Теперь появился способ слышать и видеть одновременно, и это уже меняет качество прогноза.

Модель использует преобразование Фурье, которое было изобретено Жаном-Батистом Жозефом Фурье в 1822 году для описания распространения тепла. Сегодня оно помогает предсказывать дождь.

В романе Станислава Лема «Солярис» океан планеты демонстрирует сложную пространственно-временную динамику, которую трудно предсказать. SFANet, обрабатывая данные в двух доменах, отдаленно напоминает попытку понять такие системы через разные представления.

Учёные
Niels BohrPascual JordanWerner HeisenbergJoseph Fourier
Понятия
климатическая сеть прогноз ERA5 энсо NOAA CPC ансамблевый прогноз реанализ механизм внимания нейронные сети в пространственном картировании распознавание речи весенний барьер предсказуемости модель Зебиака–Кейна ERSST нейронная сеть южная осцилляция эль-ниньо IRI многомерный индекс ЭНСО модель Джина–Тиммермана индекс Эль-Ниньо прогнозирование солнечных вспышек