Ученик, который годами решал задачи из чужих учебников, вдруг получает три тетради с настоящими наблюдениями за океаном. Задач мало, но он уже видел сотни похожих, и теперь ему хватает пары примеров, чтобы уловить почерк нового учителя. Так диффузионная модель (нейросеть, которая учится убирать шум из данных) осваивает климат Тихого океана, где тёплая фаза Эль-Ниньо сменяется холодной Ла-Ниньей и управляет погодой на планете.
Проблема в том, что спутниковые и буйковые измерения температуры поверхности океана ведутся лишь с середины XX века. За это время накопилось около 720 среднемесячных карт, а нейросети с миллионами параметров обычно нужны тысячи примеров. Чтобы честно проверить, чему именно научилась модель, авторы создали полигон: сгенерировали 120 тысяч синтетических полей с известной структурой. На этих данных модель точно воспроизвела и симметричную, и асимметричную изменчивость, но как только выборку сократили до реального размера, она начала запоминать обучающие примеры вместо обобщения.
Выход подсказала сама природа обучения. Сначала модель предобучали на синтетических полях от 30 климатических моделей проекта CMIP6, добавляя в архитектуру восьмимерный вектор, кодирующий идентичность каждой модели. Затем на 720 реальных наблюдениях дообучали только этот вектор. Такой подход позволил достичь корреляции паттернов выше 0.85 и корреляции асимметрии выше 0.9, превзойдя классические линейные модели. Ученик, натренированный на множестве виртуальных миров, за несколько примеров осваивает единственный реальный.
Это меняет представление о том, как генеративные модели могут работать в науках о Земле: не как замена физическим моделям, а как инструмент для выуживания структуры из скудных эмпирических выборок. Метод можно применять для генерации реалистичных ансамблей состояний Эль-Ниньо при оценке климатических рисков, а также для улучшения статистических моделей прогноза в условиях нехватки данных. Ученик, начавший с чужих учебников, теперь сам пишет новые страницы.
Диффузионные модели, которые сейчас генерируют реалистичные лица и пейзажи, изначально были вдохновлены неравновесной термодинамикой — наукой о том, как системы переходят из порядка в хаос. В этой работе тот же принцип обращён вспять, чтобы из шума восстанавливать упорядоченные структуры климата.
Идея обучать машину на множестве виртуальных миров, а затем настраивать её на единственный реальный, перекликается с рассказом Теда Чана «История твоей жизни», где лингвист учит язык пришельцев, опираясь на множество гипотетических грамматик, чтобы понять одну-единственную реальную.