Как нейросеть учит климат по скудным данным ✛

Оригинал: "Learning Climate Variability from Scarce Data with Diffusion Models: A Test Case for ENSO"
arXiv:2606.27094 · 2026-06-25 · CC BY 4.0 · 2 мин
Диффузионная модель извлекает скрытую структуру Эль-Ниньо, когда наблюдений в десять раз меньше, чем нужно.

Ученик, который годами решал задачи из чужих учебников, вдруг получает три тетради с настоящими наблюдениями за океаном. Задач мало, но он уже видел сотни похожих, и теперь ему хватает пары примеров, чтобы уловить почерк нового учителя. Так диффузионная модель (нейросеть, которая учится убирать шум из данных) осваивает климат Тихого океана, где тёплая фаза Эль-Ниньо сменяется холодной Ла-Ниньей и управляет погодой на планете.

Проблема в том, что спутниковые и буйковые измерения температуры поверхности океана ведутся лишь с середины XX века. За это время накопилось около 720 среднемесячных карт, а нейросети с миллионами параметров обычно нужны тысячи примеров. Чтобы честно проверить, чему именно научилась модель, авторы создали полигон: сгенерировали 120 тысяч синтетических полей с известной структурой. На этих данных модель точно воспроизвела и симметричную, и асимметричную изменчивость, но как только выборку сократили до реального размера, она начала запоминать обучающие примеры вместо обобщения.

Ключевая находка: для сходимости всех метрик нужно около 7000 образцов, а в реальных наблюдениях их лишь 720. Разрыв в десять раз заставляет модель «зубрить» отдельные карты вместо понимания общих закономерностей.

Выход подсказала сама природа обучения. Сначала модель предобучали на синтетических полях от 30 климатических моделей проекта CMIP6, добавляя в архитектуру восьмимерный вектор, кодирующий идентичность каждой модели. Затем на 720 реальных наблюдениях дообучали только этот вектор. Такой подход позволил достичь корреляции паттернов выше 0.85 и корреляции асимметрии выше 0.9, превзойдя классические линейные модели. Ученик, натренированный на множестве виртуальных миров, за несколько примеров осваивает единственный реальный.

Это меняет представление о том, как генеративные модели могут работать в науках о Земле: не как замена физическим моделям, а как инструмент для выуживания структуры из скудных эмпирических выборок. Метод можно применять для генерации реалистичных ансамблей состояний Эль-Ниньо при оценке климатических рисков, а также для улучшения статистических моделей прогноза в условиях нехватки данных. Ученик, начавший с чужих учебников, теперь сам пишет новые страницы.

Диффузионные модели, которые сейчас генерируют реалистичные лица и пейзажи, изначально были вдохновлены неравновесной термодинамикой — наукой о том, как системы переходят из порядка в хаос. В этой работе тот же принцип обращён вспять, чтобы из шума восстанавливать упорядоченные структуры климата.

Идея обучать машину на множестве виртуальных миров, а затем настраивать её на единственный реальный, перекликается с рассказом Теда Чана «История твоей жизни», где лингвист учит язык пришельцев, опираясь на множество гипотетических грамматик, чтобы понять одну-единственную реальную.

z_t = \alpha_t x + \sigma_t \epsilon
На каждом шаге t исходное поле x смешивается с гауссовым шумом ε в пропорции, заданной коэффициентами α_t и σ_t.
\mathcal{L} = \mathbb{E}_{t, x, \epsilon} \left[ \| v_\theta(z_t, t) - v_t(z_t | x) \|^2 \right]
Нейросеть учится предсказывать условную скорость v_t(z_t|x), которая ведёт зашумлённое поле обратно к чистому образцу.
v_t(z_t | x) = x - \epsilon = \frac{x - z_t}{1 - t}
При выборе α_t = t и σ_t = 1-t оптимальная скорость равна разности между чистым полем и шумом.
Учёные
Jascha Sohl-Dickstein
Понятия
модель Джина–Тиммермана весенний барьер предсказуемости линейная инверсная модель энсо Ниньо 4 многомерный индекс ЭНСО ERSST индекс Эль-Ниньо южная осцилляция буйковые станции TAO/TRITON распространение экваториальных волн ансамблевый прогноз диффузионные модели усвоение данных ERA5 объём тёплой воды телеконнекция NOAA PMEL TAO естественная изменчивость переобучение