
Transformers are neural network models using self-attention mechanisms for tasks like brain mapping, language translation, and context stitching in AI agents.المُحَوِّل (Transformer) هو معمارية للشبكات العصبية حيث تُعالج السلسلة بأكملها بالتوازي. كلمة 'عين' (بمعنى العضو الباصرة أو ينبوع الماء) تُحدد معناها من خلال علاقاتها مع الكلمات الأخرى في الجملة، باستخدام آلية الانتباه (attention mechanism) (وزن ديناميكي للأهمية). هذا مكّن من تجاوز قيود النماذج القديمة التي كانت تتوه في العبارات الطويلة. مثلما يوزع مركز العمليات المهام: كل وكيل يرى الصورة العامة ويحدد الأهداف ذات الأولوية.
اقتُرح في ورقة بعنوان «Attention is All You Need» (2017) لفاسواني وزملائه من جوجل. تعود الفكرة الأساسية لآلية الانتباه إلى أعمال التسعينيات، لكن المُحَوِّل هو من رسّخها ككتلة بناء قائمة بذاتها. بدأ بغزو الترجمة الآلية، ثم النماذج التوليدية (GPT، BERT)، والرؤية الحاسوبية، وحتى التنبؤ ببنية البروتينات.
العنصر الأساسي هو الانتباه الذاتي: بالنسبة للمتتالية المدخلة، تُحسب مصفوفات الاستعلامات (Q)، والمفاتيح (K)، والقيم (V). تُحصل أوزان الانتباه كجداء نقطي موسوم (scaled dot product) للاستعلامات والمفاتيح، متبوعًا بـ softmax. الصيغة: (QK^T/√d_k)V softmax = (Q,K,V) Attention، حيث d_k هو بُعد المفاتيح. يطبق المُشَفِّر الانتباه متعدد الرؤوس: عدة رؤوس متوازية تُسقط المدخلات في فضاءات جزئية مختلفة، ثم تدمج النتائج. يضيف الترميز الموضعي معلومات عن ترتيب الكلمات، لأن النموذج لا يمتلك تمثيلًا متأصلًا للتسلسل.
الترجمة الآلية، والمساعدات الصوتية، والأنظمة التي تفهم النصوص الطويلة — من روبوتات الدردشة إلى التقارير الآلية.
قد تحتوي المُحَوِّلات الحديثة (مثل GPT) على مئات المليارات من المعلمات القابلة للتعديل — وهذا يعادل تقريبًا عدد النجوم في مجرة صغيرة.




















