خبير الأرصاد يصدر توقعاته لأسبوع كامل في ثوانٍ، لكنه لا يستطيع تفسير أيٍّ من قراراته. هكذا تقريبًا تعمل نماذج التعلم العميق في التصوير الطبي الحديثة للطقس: لم تعد أقل شأنًا من الطرق العددية الكلاسيكية، لكن منطقها الداخلي مخفي خلف ملايين المعاملات.
مجموعة من الباحثين صنعت أداة تنظر داخل هذا "الصندوق الأسود". اختاروا الشبكة العصبية البيانية GraphCast — وهي من الأنظمة المتقدمة — وتعلموا كيف يتجسسوا على طبقاتها الخفية. تستخرج الأداة التمثيلات الداخلية للبيانات (وهي بمثابة "أفكار" النموذج) وتفككها إلى مكونات بسيطة باستخدام تحليل المكونات الرئيسية. هذه الطريقة تلتقط أقوى الأنماط — تمامًا كترتيب الصور حسب السطوع والتباين.
في الاختبارات الأولى، تمكنوا من العثور على اتجاهات تذكرنا بأشياء مألوفة لدى خبراء الأرصاد: موجات في الغلاف الجوي عند خطوط العرض الوسطى وتوزيع بخار الماء. ليست هذه أنماطًا عشوائية. النموذج يلتقط بالفعل عمليات فيزيائية، لكنه يسجلها بلغته الداخلية. تساعد الأداة في ترجمة هذه اللغة إلى لغة بشرية.
ما زالت هذه خطوات أولى، لكنها مهمة. إذا تعلمنا قراءة "أفكار" الشبكات العصبية الجوية، فسنتمكن ليس فقط من فحصها بحثًا عن الأخطاء، بل أيضًا من فهم الغلاف الجوي نفسه بشكل أفضل. فربما ترى النموذج روابط تخفى على المعادلات التقليدية.
كما كتبه المؤلفون، بالإنجليزية arXiv:2604.20467
Artificial Intelligence (AI) weather models are improving rapidly, and their forecasts are already competitive with long-established traditional Numerical Weather Prediction (NWP). To build confidence in this new methodology, it is critical that we understand how these predictions are generated. This is a huge challenge as these AI weather models remain largely black boxes. In other areas of Machine Learning (ML), mechanistic interpretability has emerged as a framework for understanding ML predictions by analysing the building blocks responsible for them. Here we present an open-source, highly adaptable tool which incorporates concepts from mechanistic interpretability. The tool organises internal latent representations from the model processor and allows for initial analyses, including cosine similarity and Principal Component Analysis (PCA), enabling the user to identify directions in latent space potentially associated with meteorological features. Applying our tool to the graph neural network GraphCast, we present preliminary case studies for mid-latitude synoptic-scale waves and specific humidity. These demonstrate the tool's ability to identify linear combinations of latent channels that appear to correspond to interpretable features.
GraphCast هي شبكة عصبية تمثل الغلاف الجوي ليس كشبكة منتظمة، بل كرسم بياني، حيث العقد هي نقاط على الكرة الأرضية، والحواف هي الروابط بينها. هذا الأسلوب يسمح بالتقاط التفاعلات البعيدة المدى بشكل أكثر فعالية، مثل تأثير عاصفة في المحيط الأطلسي على طقس أوروبا.