Потолок из случайности ✛ ✎

Оригинал: "Bound on forecasting skill for models of North Atlantic tropical cyclone counts"
arXiv:2410.05503 · 2024-10-07 · arXiv non-exclusive · собственный разбор · 3 мин
Модели числа атлантических циклонов уже достигли нижней границы ошибки, которую допускает сама природа данных.

Каждый сезон ураганов в Атлантике похож на игру в кости, где число выпавших очков зависит от трёх крупных климатических сил: Эль-Ниньо, температуры океана в «колыбели ураганов» и североатлантического колебания. Эти три фактора объясняют примерно половину изменчивости числа циклонов от года к году, и долгое время казалось, что, добавив больше данных или более хитрые алгоритмы, можно предсказывать точнее. Однако новая работа показывает: модели уже упёрлись в потолок, который воздвигла сама природа случайности.

Учёные взяли данные о числе циклонов с 1880 по 2019 год, аккуратно скорректировав их на улучшение средств наблюдения за полтора века. Базовой моделью служила пуассоновская регрессия с тремя индексами: температурой основного региона развития в августе–октябре, индексом Ниньо 3.4 в декабре–феврале и североатлантическим колебанием в декабре–марте. Затем они проверили, можно ли выжать больше точности, добавив квадратичные и перекрёстные члены или используя эластичную сеть на глобальных картах температуры океана с разрешением 2 градуса. Все сравнения проводили с пятикратной перекрёстной проверкой, причём соседние годы попадали в одну складку, чтобы исключить утечку информации из-за автокорреляции.

Теоретическая нижняя граница средней абсолютной ошибки для пуассоновских моделей составила 2.51 циклона. Базовая модель показала ошибку 2.46 ± 0.10, а эластичная сеть — 2.51 ± 0.14, то есть обе в пределах погрешности достигают предела.

Проверка на реальных данных подтвердила согласие с пуассоновским распределением: критерий хи-квадрат дал p = 0.84, а автокорреляция остатков составила всего 11% (z = 1.3). Добавление нелинейных взаимодействий не улучшило результат, за исключением слабого эффекта от произведения индексов Ниньо 3.4 и североатлантического колебания, который уменьшил ошибку на 0.03 циклона, но не изменил общую картину. Иными словами, сколько ни усложняй модель, точнее предсказать число ураганов в рамках этого подхода невозможно.

Работа отличается от соседних исследований тем, что вместо поиска более мощных предикторов доказывает существование непреодолимого статистического барьера. Соседние работы по Эль-Ниньо и нейросетевым прогнозам погоды стремятся улучшить точность, тогда как здесь показано, что для данного класса моделей это невозможно. Это смещает фокус: дальнейшие усилия должны быть направлены не на усложнение регрессий, а на поиск скрытых зависимостей между годами или новых источников информации, которые нарушают предположение о независимости пуассоновских отсчётов.

Среднее число циклонов за сезон в Атлантике около десяти, но из-за пуассоновской природы процесса разброс от года к году составляет примерно три циклона. Это означает, что даже идеальная модель не может предсказать точное число лучше, чем с ошибкой около 2.5 циклона в среднем.

Перспективное направление — поиск тонких корреляций между соседними сезонами, которые не улавливаются стандартными тестами. Если такие зависимости существуют, они могут быть обусловлены медленными процессами в океане или атмосфере, например, многолетними колебаниями температуры. Другой путь — отказ от пуассоновского предположения в пользу распределений с более тяжёлыми хвостами или моделей с памятью. Однако пока все проверки говорят о согласии с пуассоновским процессом, поэтому вероятность прорыва неясна.

Потолок из случайности, в который упёрлись модели, не означает конец прогнозирования. Он показывает, где заканчивается предсказуемое и начинается чистая игра случая. Для страховых компаний и прибрежных сообществ это важное знание: не стоит ждать, что более мощный компьютер или более глубокая нейросеть даст точный ответ на вопрос «сколько ураганов будет в следующем сезоне». Вместо этого стоит готовиться к разбросу, который заложен в самой природе тропических циклонов.

Среднее число циклонов за сезон в Атлантике около десяти, но из-за пуассоновской природы процесса разброс от года к году составляет примерно три циклона. Это означает, что даже идеальная модель не может предсказать точное число лучше, чем с ошибкой около 2.5 циклона в среднем.

В романе Кима Стэнли Робинсона «Сорок знаков дождя» учёные пытаются улучшить прогнозы экстремальной погоды, сталкиваясь с хаотичностью атмосферы. Здесь похожая ситуация: даже при полном знании климатических индексов остаётся неустранимая случайность, которую не победить никакими вычислениями.

\mathrm{err}(z, \lambda) = \sum_{y \ge 0} |y - z| \, P(y|\lambda)
Среднее отклонение предсказанного числа событий от наблюдаемого, усреднённое по пуассоновскому распределению.
b(z) = \min_{\lambda} \mathrm{err}(z, \lambda)
Минимально возможная ошибка при неизвестной, но фиксированной интенсивности.
B = \frac{1}{n} \sum_{t=1}^{n} b(y_t)
Усреднение по всем наблюдениям даёт теоретический минимум средней абсолютной ошибки для любой пуассоновской модели.
Учёные
Max PlanckClaude ShannonJohn von NeumannLudwig BoltzmannJosiah Willard GibbsAndrey Markov
Понятия
весенний барьер предсказуемости NOAA CPC индекс Эль-Ниньо ERSST энсо океанический индекс нино модель Джина–Тиммермана буйковые станции TAO/TRITON относительный они тропический циклон южная осцилляция ла-нинья северное экваториальное противотечение модель осциллятора с подзарядкой тихоокеанская декадная осцилляция естественная изменчивость сезонный цикл NOAA PMEL TAO навык прогноза объём тёплой воды