
Transformers are neural network models using self-attention mechanisms for tasks like brain mapping, language translation, and context stitching in AI agents.Le transformeur est une architecture de réseaux de neurones où toute la séquence est traitée en parallèle. Le mot «banque» (au sens d'établissement financier ou de banc) précise son sens grâce aux liens avec d'autres mots dans la phrase, en utilisant le mécanisme d'attention (poids dynamique d'importance). Cela a permis de dépasser les limites des anciens modèles, qui s'embrouillaient dans de longues phrases. Tel un quartier général opérationnel, il distribue les tâches : chaque agent voit la situation d'ensemble et identifie les objectifs prioritaires.
Proposé dans l'article «Attention is All You Need» (2017) par Vaswani et ses collègues de Google. L'idée principale du mécanisme d'attention remonte aux travaux des années 1990, mais c'est le transformeur qui l'a établi comme un bloc de construction autonome. Il a d'abord conquis la traduction automatique, puis les modèles génératifs (GPT, BERT), la vision par ordinateur et même la prédiction de la structure des protéines.
L'élément clé est l'auto-attention : pour la séquence d'entrée, on calcule les matrices de requêtes (Q), de clés (K) et de valeurs (V). Les poids d'attention sont obtenus comme le produit scalaire normalisé des requêtes et des clés, suivi d'un softmax. Formule : Attention(Q,K,V) = softmax(QK^T/√d_k)V, où d_k est la dimension des clés. L'encodeur applique une attention multi-têtes : plusieurs têtes parallèles projettent l'entrée dans différents sous-espaces, puis les résultats sont combinés. Le codage positionnel ajoute des informations sur l'ordre des mots, car le modèle n'a pas de représentation intrinsèque de la séquence.
Traduction automatique, assistants vocaux et systèmes comprenant de longs textes, des chatbots aux rapports automatiques.
Les transformeurs modernes (comme GPT) peuvent contenir des centaines de milliards de paramètres ajustables, soit à peu près le nombre d'étoiles dans une petite galaxie.




















