Фермер в Айове смотрит на календарь: сеять сейчас или подождать? Через месяц может ударить жара, а может зарядить дождь. Синоптики разводят руками: прогноз на две недели ещё держится, на сезон — уже нет, а между ними провал. Атмосфера слишком быстро меняется, чтобы помнить вчерашний день, а океан слишком медлителен, чтобы успеть на помощь. Этот промежуток от двух недель до двух месяцев называют «пустыней предсказуемости».

В пустыне, как известно, выживают те, кто умеет находить воду. Исследователи из США решили проверить, какие методы машинного обучения способны выжать хоть каплю сигнала из этой засушливой полосы. Они взяли данные о температуре, влажности почвы, температуре океана и атмосферном давлении за 40 лет и попытались предсказать среднюю температуру на третью и четвёртую недели вперёд. Десять моделей, от простой линейной регрессии до нейросетей, соревновались на одной и той же задаче.

Победил градиентный бустинг XGBoost — метод, который собирает множество слабых деревьев решений и заставляет их исправлять ошибки друг друга. Его средняя косинусная схожесть (мера совпадения прогноза с реальностью) составила 0.304 против 0.201 у климатической нормы. Это как если бы вместо ответа «в этом месяце обычно 20 градусов» модель выдавала карту, на которой тёплые и холодные пятна лежат ближе к истине. Любопытно, что линейная модель с L1-регуляризацией, которая автоматически отбирает важные признаки, почти не уступила сложным алгоритмам.

Почему так? Влажная почва работает как губка: она впитывает тепло днём и отдаёт его ночью, сглаживая колебания температуры. Эль-Ниньо, тёплое течение в Тихом океане, меняет погоду на всём континенте, но делает это неспешно, неделями. Атмосфера же слишком суетлива: сегодняшний циклон завтра уже далеко, и его след в данных быстро исчезает. Поэтому модели, которые ищут закономерности, постепенно учатся игнорировать быстрые шумы и слушать медленный гул океана и земли.

Но пустыня не одинакова. На прибрежных и южных территориях США прогнозы получаются точнее, а вот в Монтане, Вайоминге и Айдахо бустинг пасует. Там лучше сработала нейросеть с LSTM-энкодером, которая запоминает длинные последовательности. Это как два проводника: один знает все тропы в своей долине, другой умеет ориентироваться по звёздам в незнакомой местности. Объединив их, можно пройти пустыню увереннее.

Исследование показало, что в пустыне предсказуемости есть оазисы: влажность почвы и океанические индексы. Те, кто планирует посев, управляет водохранилищами или готовит помощь при засухе, могут рассчитывать на более точные карты на месяц вперёд. А фермер из Айовы, возможно, скоро получит прогноз, который поможет ему решить, когда сеять.