SEA-ViT: شبكة عصبية تسمع البحر بأكمله ✛

الأصل: "SEA-ViT: Sea Surface Currents Forecasting Using Vision Transformer and GRU-Based Spatio-Temporal Covariance Modeling"
· Teerapong Panboonyuen
arXiv:2409.16313 · 2024-09-14 · CC BY 4.0 · 2 دقيقة
يجمع النموذج بين Vision Transformer وGRU ثنائي الاتجاه للتنبؤ بالتيارات السطحية باستخدام بيانات الرادار عالي التردد والمؤشرات المناخية.

في قاعة الاجتماعات، لا يستمع المترجم إلى المتحدث فحسب، بل إلى جلبة الأصوات كلها، ملتقطًا من ينظر إلى من، ومن يصمت قبل عبارة مهمة. هكذا تقرأ SEA-ViT المحيط: فهي لا ترى نقاطًا منفردة عند العوامات، بل ترى حقل التيارات بأكمله دفعة واحدة، وكأنه محادثة واحدة للمياه.

يقيس الرادار عالي التردد التيارات السطحية من خلال موجات الراديو المنعكسة موجات الراديو، تمامًا كما ترى الخفافيش العوائق عبر الصدى.

سابقًا، كانت النماذج العددية تحسب كل خلية من المحيط على حدة، وكانت تفتقر إلى الذاكرة الكافية لما يحدث وراء الأفق. أما SEA-ViT فمختلفة. فطبقة الانتباه الذاتي في المحول تقارن كل نقطة بأي نقطة أخرى، مثل مترجم يبقي القاعة كلها في ذهنه. وتضيف GRU ثنائية الاتجاه ذاكرة زمنية: فهي تتذكر ما كان أمس وما سيكون غدًا، لأنها تقرأ التسلسل في الاتجاهين معًا. وهما معًا يحولان فوضى التيارات إلى سرد متماسك.

ويُنسج في هذا السرد أيضًا المؤشر المناخي ENSO. عندما تحدث النينيو في المحيط الهادئ، تتصرف المياه قبالة سواحل تايلاند بشكل مختلف عنها خلال النينيا. تستقبل SEA-ViT هذا المؤشر كتلميح، مثل مترجم أُخبر مسبقًا أن الجو حار في القاعة اليوم وأن الجميع سيتحدثون بسرعة أكبر. وتُعاقب الأخطاء في مثل هذه الفترات بشدة أكبر، لذلك يتعلم النموذج ألا يفوت المنعطفات المهمة.

ENSO هو تذبذب مناخي: الطور الدافئ (النينيو) والطور البارد (النينيا) يتعاقبان كل بضع سنوات.

ثلاثون عامًا من بيانات الرادار عالي التردد استُوعبت في التدريب، والآن يستطيع النموذج التنبؤ بالتيارات في خليج تايلاند وبحر أندامان. إنه لا يخرج أرقامًا فحسب، بل يفهم كيف ترتبط الدوامات البعيدة والأمواج المدية. إنه مثل مترجم، بعد سنوات طويلة من العمل، يبدأ في الإحساس ليس بالكلمات فقط، بل بالصمت والنظرات والسكوت الذي يسبق العاصفة.

عندما يبدأ النموذج العمل في نظام GISTDA، سيحصل البحارة والصيادون على توقعات تسمع البحر بأكمله. وعندها لن يكون المترجم في قاعة الاجتماعات مجرد استعارة، بل عملًا حقيقيًا: ستترجم SEA-ViT لغة المحيط إلى لغة مسارات آمنة وتوقعات دقيقة.

سُمي النموذج SEA-ViT، وهو يشير في الوقت نفسه إلى البحر (sea) وإلى بنية Vision Transformer (ViT). ويشكر المؤلف نفسه في قسم الشكر والتقدير، وهو أمر نادر في الأوراق العلمية.

u' = \frac{u - \mu_u}{\sigma_u}
توحيد بدرجة z-score لجعل المتوسط صفرًا والتباين واحدًا
\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V
مجموع مرجح للقيم V، حيث تحدد الأوزان بتشابه الاستعلامات Q والمفاتيح K
L = \frac{1}{N}\sum_{i=1}^{N}\left((U_i - \hat{U}_i)^2 + (V_i - \hat{V}_i)^2\right) + \lambda \cdot \text{ENSO\_weight} \cdot \left((U_i - \hat{U}_i)^2 + (V_i - \hat{V}_i)^2\right)
متوسط مربع الخطأ مضافًا إليه عقوبة على الأخطاء في فترتي النينيو والنينيا
المفاهيم
sea surface temperature OISST v2.1 OISST NRT تنبؤ IRI تيار محيطي ملاحة بدون نظام تحديد المواقع ملاحة