SEA-ViT: нейросеть, которая слышит море целиком ✛
В зале совещаний переводчик слушает не только говорящего, но и весь гул голосов, улавливая, кто на кого смотрит и кто замолкает перед важной репликой. Так и SEA-ViT читает океан: она видит не отдельные точки с буйками, а всё поле течений сразу, как единый разговор воды.
Раньше численные модели считали каждую ячейку океана отдельно, и им не хватало памяти на то, что происходит за горизонтом. SEA-ViT устроена иначе. Слой самовнимания трансформера сравнивает каждую точку с любой другой, как переводчик, который держит в голове весь зал. Двунаправленная GRU добавляет память о времени: она помнит, что было вчера и что будет завтра, потому что читает последовательность и вперёд, и назад. Вместе они превращают хаос течений в связный рассказ.
В рассказ вплетён и климатический индекс ЭНСО. Когда в Тихом океане наступает Эль-Ниньо, вода у берегов Таиланда ведёт себя иначе, чем при Ла-Нинье. SEA-ViT получает этот индекс как подсказку, словно переводчик, которому заранее сообщили, что в зале сегодня жарко и все будут говорить быстрее. За ошибки в такие периоды модель штрафуют строже, поэтому она учится не пропускать важные повороты.
Тридцать лет данных высокочастотного радара уместились в обучение, и теперь модель может предсказывать течения в Сиамском заливе и Андаманском море. Она не просто выдаёт числа, она понимает, как связаны далёкие вихри и приливные волны. Это как переводчик, который после долгих лет работы начинает чувствовать не только слова, но и паузы, и взгляды, и тишину перед бурей.
Когда модель начнёт работать в системе GISTDA, моряки и рыбаки получат прогноз, который слышит море целиком. И тогда переводчик в зале совещаний станет не метафорой, а реальной работой: SEA-ViT будет переводить язык океана на язык безопасных маршрутов и точных прогнозов.
Модель названа SEA-ViT, что одновременно отсылает к морю (sea) и к архитектуре Vision Transformer (ViT). Автор благодарит самого себя в разделе acknowledgments, что является редкостью в научных статьях.