SEA-ViT: كيف تتعلم الشبكة العصبية قراءة التيارات البحرية ✛

الأصل: "SEA-ViT: Sea Surface Currents Forecasting Using Vision Transformer and GRU-Based Spatio-Temporal Covariance Modeling"
· Teerapong Panboonyuen
arXiv:2409.16313 · 2024-09-14 · CC BY 4.0 · 1 دقيقة
شبكة عصبية تتنبأ بالتيارات البحرية، مثل مترجم يستمع إلى القاعة بأكملها ويتذكر الحوار كله.

المترجم في قاعة كبيرة لا يكتفي بالاستماع إلى الكلمات فحسب، بل يتابع جميع المحادثات في آن واحد، ويتذكر من قال ماذا سابقًا، ويخمن ما سيحدث لاحقًا. تعمل SEA-ViT بنفس الطريقة، لكن بدلًا من الأصوات، فهي تستمع إلى المحيط.

تيارات المحيط تشبه المحادثة: فالماء لا يتحرك من تلقاء نفسه، بل تحت تأثير الرياح والمد والجزر والأحداث المناخية البعيدة. في السابق، كانت الحواسيب تحسب كل نقطة على حدة، كما لو أن المترجم يسمع شخصًا واحدًا فقط. تستخدم SEA-ViT أسلوبين: طبقة ترى حقل التيارات بأكمله دفعة واحدة، مثل مترجم يلقي نظرة شاملة على القاعة، وطبقة أخرى تتذكر ما حدث أمس وقبل أسبوع، لأنها تقرأ البيانات في الاتجاهين الأمامي والخلفي عبر الزمن.

إنسو (ENSO) هي أرجوحة مناخية: إل نينيو الدافئ ولا نينيا البارد يتناوبان، ويعتمد عليهما سلوك التيارات.

عندما يحل إل نينيو، تتحرك المياه قبالة سواحل تايلاند بشكل مختلف. تتلقى SEA-ViT تلميحًا حول ذلك، مثل مترجم أُخبر أن الجميع في القاعة سيتحدثون اليوم بسرعة أكبر. في مثل هذه الأيام، يُعاقب النموذج على الأخطاء بشكل أشد، لذلك يتعلم أن يكون منتبهًا تحديدًا عندما يكون ذلك في غاية الأهمية.

الآن تستطيع SEA-ViT التنبؤ بالتيارات في خليج تايلاند وبحر أندامان. سيحصل البحارة والصيادون على توقعات تسمع المحيط بأكمله، وليس مجرد نقطة واحدة قرب الشاطئ. وهكذا، يتحول المترجم في قاعة الاجتماعات من مجرد تشبيه إلى عمل حقيقي: SEA-ViT تترجم لغة البحر إلى لغة المسارات الآمنة.

النموذج يحمل اسم SEA-ViT، وهو يشير في الوقت نفسه إلى البحر (sea) وإلى بنية محول الرؤية (Vision Transformer). وقد شكر المؤلف نفسه في قسم الشكر والتقدير، وهو أمر نادر في الأوراق العلمية.

u' = \frac{u - \mu_u}{\sigma_u}
توحيد المعايير باستخدام z-score لجعل المتوسط صفرًا والتباين واحدًا
\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V
مجموع مرجح للقيم V، حيث تُحدد الأوزان بمدى تشابه الاستعلامات Q والمفاتيح K
L = \frac{1}{N}\sum_{i=1}^{N}\left((U_i - \hat{U}_i)^2 + (V_i - \hat{V}_i)^2\right) + \lambda \cdot \text{ENSO\_weight} \cdot \left((U_i - \hat{U}_i)^2 + (V_i - \hat{V}_i)^2\right)
متوسط الخطأ التربيعي بالإضافة إلى عقوبة إضافية على الأخطاء خلال فترتي إل نينيو ولا نينيا
المفاهيم
sea surface temperature OISST v2.1 OISST NRT تنبؤ IRI تيار محيطي ملاحة بدون نظام تحديد المواقع ملاحة