Нейросеть учится на черновике: как грубая модель помогает предсказать Эль-Ниньо

Оригинал: "A Bayesian Machine Learning Algorithm for Predicting ENSO Using Short Observational Time Series"

arXiv:2104.01435 · 2021-04-03 · CC BY 4.0 · 2 мин

Новый алгоритм обучения нейросети берёт длинную симуляцию из простой модели как черновик, а короткий ряд наблюдений как живой разговор, чтобы предсказывать Эль-Ниньо на девять с половиной месяцев вперёд.

Переводчик на важных переговорах держит под рукой черновик речи, но по ходу дела сверяется с живым разговором: если сказанное расходится с заготовкой, он правит перевод на лету. Так и новый алгоритм обучает нейросеть предсказывать Эль-Ниньо: длинная симуляция из грубой климатической модели служит черновиком, а короткий ряд спутниковых наблюдений — тем самым живым разговором, который корректирует каждый шаг.

Эль-Ниньо, то есть аномальное потепление воды в восточной части Тихого океана, влияет на дожди, урожаи и цены на продукты по всему миру. Но надёжных наблюдений мало: за спутниковую эру зафиксировано лишь три сильных события. Физические модели ошибаются систематически, а обычные нейросети требуют больших выборок, которых нет. Здесь и вступает байесовский тренажёр.

Алгоритм генерирует около 30 000 недельных отсчётов из простой трёхмерной модели, где взаимодействуют температура поверхности океана, глубина термоклина в западной части Тихого океана и ветровые порывы. Эти данные предлагают нейросети обновить параметры. Затем короткий наблюдательный ряд (1983–1999 или 2001–2020 годы) проверяет, уменьшает ли это ошибку на реальных данных. Если да, обновление принимают; если нет, отвергают. Так грубый черновик не даёт сети выдумывать лишнего, а наблюдения не позволяют ей уйти от реальности.

Результат впечатляет: прогноз сохраняет мастерство до 9,5 месяцев вперёд, тогда как персистентный прогноз (просто «завтра как сегодня») держится 5 месяцев, а ансамбль физических моделей — 6. Алгоритм в значительной степени преодолевает весенний барьер предсказуемости: при старте с февраля по август корреляция остаётся выше 0,5 почти 10 месяцев, а для апреля полезный прогноз extends до 9 месяцев. Более того, 95% доверительный интервал навыка заметно уже, чем у стандартного обучения, а результаты устойчивы к случайным возмущениям параметров модели.

Ветровые порывы в западной части Тихого океана живут на внутрисезонных масштабах: для прогноза используются данные всего за последние 8 дней, тогда как температура и термоклин берутся за 8 недель. Такая разномасштабность входов оказалась ключевой для продления навыка прогноза.

Переводчик, который сверяется с черновиком, но правит по живому разговору, в итоге выдаёт точный перевод. Так и эта нейросеть, обученная на грубой модели и скорректированная наблюдениями, предсказывает Эль-Ниньо дальше и надёжнее, чем каждый источник по отдельности. Метод применим к любой геофизической системе с ограниченными наблюдениями, если есть разумная приближённая модель.

Весь граф →

Ветровые порывы в западной части Тихого океана, которые авторы включают в модель, живут на внутрисезонных масштабах: для прогноза используются данные всего за последние 8 дней, тогда как температура и термоклин берутся за 8 недель. Такая разномасштабность входов оказалась ключевой для продления навыка прогноза.

Понятия

навык прогноза весенний барьер предсказуемости машинное обучение температура поверхности моря OISST v2.1 среднеквадратичная ошибка многомерный индекс ЭНСО ERSST южная осцилляция эль-ниньо регрессия нейронной сети модель Джина–Тиммермана ансамблевый прогноз океанический индекс нино аномалия температуры поверхности моря распространение экваториальных волн оценка максимального правдоподобия NOAA PMEL TAO байесовский вывод oisst nrt линейная инверсная модель

Я автор

Нейросеть учится на черновике: как грубая модель помогает предсказать Эль-Ниньо