méthode

transformeurs

Transformers are neural network models using self-attention mechanisms for tasks like brain mapping, language translation, and context stitching in AI agents.
70 articles liés · 5 qui a travaillé ici

Description

Le transformeur est une architecture de réseaux de neurones où toute la séquence est traitée en parallèle. Le mot «banque» (au sens d'établissement financier ou de banc) précise son sens grâce aux liens avec d'autres mots dans la phrase, en utilisant le mécanisme d'attention (poids dynamique d'importance). Cela a permis de dépasser les limites des anciens modèles, qui s'embrouillaient dans de longues phrases. Tel un quartier général opérationnel, il distribue les tâches : chaque agent voit la situation d'ensemble et identifie les objectifs prioritaires.

Histoire

Proposé dans l'article «Attention is All You Need» (2017) par Vaswani et ses collègues de Google. L'idée principale du mécanisme d'attention remonte aux travaux des années 1990, mais c'est le transformeur qui l'a établi comme un bloc de construction autonome. Il a d'abord conquis la traduction automatique, puis les modèles génératifs (GPT, BERT), la vision par ordinateur et même la prédiction de la structure des protéines.

Comment ça marche

L'élément clé est l'auto-attention : pour la séquence d'entrée, on calcule les matrices de requêtes (Q), de clés (K) et de valeurs (V). Les poids d'attention sont obtenus comme le produit scalaire normalisé des requêtes et des clés, suivi d'un softmax. Formule : Attention(Q,K,V) = softmax(QK^T/√d_k)V, où d_k est la dimension des clés. L'encodeur applique une attention multi-têtes : plusieurs têtes parallèles projettent l'entrée dans différents sous-espaces, puis les résultats sont combinés. Le codage positionnel ajoute des informations sur l'ordre des mots, car le modèle n'a pas de représentation intrinsèque de la séquence.

En pratique

Traduction automatique, assistants vocaux et systèmes comprenant de longs textes, des chatbots aux rapports automatiques.

Anecdote

Les transformeurs modernes (comme GPT) peuvent contenir des centaines de milliards de paramètres ajustables, soit à peu près le nombre d'étoiles dans une petite galaxie.

Concept graph →

Articles liés · 79

Triple connexion : comment le cerveau assemble les régions par trois
Un trio de jazz joue dans la pénombre d'un club. Le pianiste mène la mélodie, le contrebassiste tient le rythme, le batteur disperse ses roulements. Si l'on n'écoute que les paires de musiciens, on peut saisir comment le pianiste s'adapte à la basse ou la basse à la batterie.
Le navigateur qui recalcule sa route en plein vol
Un navigateur muni d'une carte papier trace sa route avant de prendre la mer. Si l'océan change, si le courant se déplace, si le vent se renforce, la carte reste la même. Le navire suit un chemin obsolète et l'équipage doit corriger le cap manuellement.
L'atlas de la physique interne d'un modèle de neutrinos : une bibliothèque que son destinataire ne lit pas
Dans la glace antarctique, une particule fantôme ne laisse qu'un faible éclat de lumière bleue. Le détecteur IceCube capture ces éclats, et à partir d'eux, il faut déterminer d'où vient la particule. Le modèle PolarBERT a appris à le faire, mais ce qu'il voit réellement à l'intérieur restait un mystère.
Une division qui ne fragmente pas la mémoire
Garder en tête la position exacte d'un stylo qu'on déplace lentement est une tâche banale pour le cerveau. Pour les réseaux de neurones artificiels, c'est presque impossible. Les réseaux récurrents classiques, comme GRU et LSTM, ont tendance à découper le mouvement continu en paliers rigides : le stylo ne glisse pas de façon fluide, il saute d'un point à un autre.
Comment les idées apprennent les unes des autres
L'esprit humain ressemble à un jeu de construction qui s'auto-construit. Les nouvelles idées ne meurent pas avec leur créateur : elles se transmettent, se mélangent et sont sélectionnées. Ce processus est appelé évolution culturelle : les inventions utiles se consolident, les inutiles tombent dans l'oubli. C'est le principe du cliquet, ce mécanisme qui ne tourne que dans un sens.
Génomique2026-07-192 minarXiv:2607.17227express
Atlas cellulaires : qui lit le mieux le langage des tissus ?
Les biologistes confient de plus en plus aux ordinateurs la lecture des « modes d'emploi » de la cellule vivante. Six modèles récents d'intelligence artificielle — Nicheformer, CellPLM, scGPT-spatial, GenePT, scELMo et Novae — sont comme six traducteurs de dialectes différents d'un même langage cellulaire.
Comment un drone construit une carte vue du ciel
Les caméras d'une voiture autonome captent la lumière, telles des télescopes pointés vers une lointaine galaxie. Chaque image est une observation fragmentaire ; ensemble, elles doivent former une carte du chemin.
Comment le cerveau dirige l'attention : un modèle de la méditation
Le cerveau d'un méditant, c'est un orchestre, et l'attention, son chef. Lorsque vous êtes concentré sur votre respiration, tous les instruments jouent en harmonie. Mais soudain, une pensée-violoncelle joue une fausse note : c'est la divagation de l'esprit.
Traitement du signal2026-07-161 minarXiv:2607.15127express
Un IA léger pour les communications spatiales : plus précise et plus économe
Communiquer avec un satellite, c'est comme essayer d'entendre un murmure dans une tempête : le signal se noie dans les parasites. Des ingénieurs ont créé un algorithme d'IA qui fonctionne directement sur le satellite et qui, avec une consommation d'énergie minimale, identifie les distorsions plus précisément que les méthodes précédentes.
Un navigateur intelligent qui ne se fait pas confiance
Un programme de suivi ordinaire ressemble à un navigateur qui guide un navire à l'aide des étoiles. Mais dès que le ciel se couvre, les coordonnées dérivent et l'incertitude dans les données augmente — c'est ce qu'on appelle l'entropie. Le nouvel algorithme s'adjoint un « copilote » : un module qui surveille le niveau de confiance du navigateur principal.
Duo de vitesse et de précision pour les réseaux électriques intelligents
Contrairement aux anciennes turbines, les panneaux solaires et les éoliennes se connectent via des onduleurs, ce qui ouvre de nouvelles brèches aux hackers : ils peuvent fausser subtilement les relevés des capteurs ou falsifier les étiquettes GPS. Pour se protéger, les ingénieurs ont combiné deux approches : un gardien ultra-rapide et un détective réfléchi.
Robotique2026-07-151 minarXiv:2607.13553express
Comment un robot apprend à nager dans le chaos des courants
En eau calme, la trajectoire est claire. Mais dans les courants turbulents, le robot a besoin d'une autre stratégie. Les approches habituelles exigent une carte précise des courants, mais en réalité, on ne peut pas l'obtenir. La nature procède autrement : les poissons sentent la pression et les tourbillons directement contre leur corps.
Un esprit vivant : pourquoi l'IA sans corps reste aveugle
L'approche standard actuelle de l'apprentissage de l'IA ressemble à un enfant enfermé dans une bibliothèque : il mémorise des millions de livres, mais ignore que le feu brûle et que la chute fait mal.
Mémoire sans pensées : comment le cerveau se souvient après le silence
Après qu'une pierre a été jetée, les cercles à la surface de l'eau disparaissent, mais le liquide conserve des vibrations microscopiques. Le moindre souffle – et la ride renaît. Les réseaux de neurones se comportent de manière similaire.
Comment suivre la chaleur dans toute une pièce avec un seul thermomètre
Dans une casserole de soupe, deux thermomètres suffisent pour connaître la température partout — à condition de savoir que la chaleur se propage en cercles depuis le fond. De même en science : à partir de mesures éparses, il faut reconstruire l'image complète du champ thermique.
Comment l'IA a cessé de confondre les sons dans un scénario
Les modèles qui transforment le texte en audio reproduisent bien les sons isolés, mais se mélangent les pinceaux quand le scénario en comporte plusieurs. Par exemple, selon le scénario, on a d'abord une sonnerie, puis des pas, puis un claquement de porte. Le générateur peut intervertir les événements, et le spectateur entendra les pas avant la sonnerie.
Traitement du signal2026-07-141 minarXiv:2607.12518express
L'écho du réseau mobile : comment le téléphone trouve son chemin sans GPS
En ville, le signal rebondit entre les murs comme une balle, et le téléphone capte des dizaines de ces « réflexions » — des échos. Chaque microseconde de retard ajoute 300 mètres au trajet. La vitesse du signal est constante, comme celle de la lumière (vitesse de la lumière).
Traitement du signal2026-07-141 minarXiv:2607.12744express
Un réseau de neurones avec un sens de la position améliore les communications
Sur une cuisinière à gaz, chaque brûleur chauffe différemment. Si le cuisinier déplace les casseroles, la nourriture peut brûler. Il en va de même dans un réseau sans fil : les antennes-brûleurs et les utilisateurs-casseroles nécessitent un placement précis. Les réseaux de neurones classiques ne distinguent pas les positions, considérant tous les brûleurs comme identiques.
Contrôleur flotteur : la stabilité par une équation instantanée
Le flotteur dans la chasse d'eau est un contrôleur idéal : en sentant le niveau de l'eau, il ramène instantanément le système à l'équilibre sans se soucier du passé. Des ingénieurs ont appliqué ce principe aux réseaux de neurones.
Combinatoire2026-07-131 minarXiv:2607.11325express
L'écheveau de l'évolution : comment mesurer le chaos ?
L'arbre généalogique se transforme en écheveau si l'on tient compte des enfants adoptés et des remariages. L'évolution ressemble souvent à un tel écheveau : bien que le modèle standard dessine un arbre des espèces bien propre, en réalité les gènes voyagent non seulement par héritage, mais aussi directement entre organismes non apparentés.
La symphonie des atomes : quand l'IA transforme le microscope en chef d'orchestre de la matière
Le microscope électronique est un orgue géant : au lieu des tuyaux, des lentilles électromagnétiques ; au lieu de l'air, un flux d'électrons accélérés. Autrefois, il ne faisait que dessiner des fresques muettes du monde atomique, condamnant les scientifiques à un déchiffrage épuisant.
Tango gravitationnel : quand un réseau de neurones à l'intuition physique perçoit le rythme des trous noirs
Distinguer le signal d'une paire de trous noirs supermassifs, c'est comme entendre les pas d'un danseur dans le fracas d'un ouragan. Quelque part dans l'espace, ces monstres tournent dans un tango gravitationnel lent, déformant l'espace-temps lui-même.
Les briques de l'espace-temps : comment les réseaux de tenseurs capturent une théorie des champs insaisissable
En physique quantique, il existe des théories où tout obéit à des proportions nettes — comme un rythme musical qui revient toujours au début de la mesure. Mais il existe aussi des théories « irrationnelles », où le rythme se brise et où il est presque impossible de prédire le prochain battement.
Le vote des impairs : comment la différence symétrique accélère les automates
Dans la salle d'audience, une chaîne de caractères est présentée en entrée. Douze jurés (les chemins de calcul) l'examinent symbole par symbole. Chacun peut déclarer « coupable » (accepter) ou « non coupable ». Pour un automate non déterministe ordinaire (NFA), un seul vote « pour » suffit.
Comment de faibles agents d'IA s'emparent des réseaux : la cristallisation des inégalités
Une infime poussière dans une solution sursaturée se couvre en quelques secondes de facettes de cristal. Les particules voisines restent invisibles. Un processus similaire a récemment été découvert dans les communautés d'grands modèles de langage.
Crypto-analyste de l'espace : le réseau de neurones déchiffre les codes secrets des étoiles variables
Les profondeurs du cosmos ne sont pas silencieuses — elles regorgent de messages chiffrés. Chaque étoile, chaque quasar envoie son code lumineux tremblotant : rythmé comme le morse d'une céphéide, ou chaotique comme un chiffre brisé de supernova. Les astronomes interceptent ces signaux par millions chaque nuit — mais comment les lire sans clé ?
Une cuisine sans à-coups : SmoothAgent recoud le contexte des agents LLM sans pause
À l'heure de pointe dans la cuisine d'un restaurant, l'huile grésille, les couteaux claquent, les commandes fusent. Le chef ne peut pas attendre qu'on lave la poêle — il a toujours sous la main un commis qui prépare une poêle propre à l'avance.
Trier l'or : optimiser les pipelines d'IA avec les méthodes des bases de données
L'or ne se trouve pas en surface — il est caché dans des tonnes de stérile. Pour extraire un gramme de métal précieux, les chercheurs d'or tamisent des mètres cubes de terre.
Comment le cerveau partage l'expérience entre les tâches
Le cerveau n'apprend pas chaque tâche à partir de zéro : il transfère l'expérience d'une activité à une autre. Mais comment savoir quelles tâches sont réellement apparentées ? Les neuroscientifiques ont eu une idée astucieuse : laisser un réseau artificiel « observer » l'activité cérébrale pendant une tâche, puis tenter de prédire l'activité pendant une autre.
Un réseau de neurones greffé dans un modèle de neurone
Un neurone ressemble à un circuit électrique avec des piles et des résistances variables. Le rôle des résistances est joué par les canaux ioniques — des pores protéiques dans la membrane qui s'ouvrent et se ferment, laissant passer des particules chargées.
Calcul et langage2026-06-132 minarXiv:2606.15422express
Comment créer le peptide thérapeutique idéal : trois propriétés à la fois
Un ingénieur règle une antenne : il tire sur un segment — la fréquence dérive, il change l'angle — le gain chute. C'est à peu près ainsi que fonctionne le développement des peptides thérapeutiques (de courtes chaînes protéiques).
Comment le cerveau apprend à anticiper sans indices
Un réseau de neurones, telle une feuille de papier quadrillé, reçoit des signaux homogènes en entrée – et trace lui-même sa grille de coordonnées. D'abord, les connexions entre les entrées et les cellules du réseau deviennent semblables à une colline douce : la réponse est plus forte au centre et s'atténue vers les bords.
Compiler une fois, différencier partout
Un interprète est assis dans la salle de réunion et traduit chaque mot. Mais voilà qu'il remarque que sa traduction pourrait être améliorée s'il apprenait de ses erreurs. Il commence à noter les phrases qui ont causé des incompréhensions et les corrige. Au bout d'une heure, sa traduction est plus précise et la réunion se déroule plus vite.
Le cerveau économise sa mémoire comme un caissier à l'heure de pointe
Un caissier de supermarché à l'heure de pointe ne mémorise pas chaque article scanné — il garde en tête le total et surveille la file d'attente. C'est à peu près ainsi que le cerveau répartit ses forces : le cortex, coûteux et précis (ce qui est responsable de la réflexion), et les noyaux sous-corticaux, plus simples et économes (où vivent les habitudes), travaillent en binôme.
Quand l'esprit dit honnêtement « je ne sais pas »
Une personne regarde une serrure de porte et voit la fente pour la clé. Elle sait qu'on insère la clé et qu'on la tourne. Mais si, au lieu d'une serrure, il y a un panneau tactile, le cadre habituel se brise. La personne ne se trompe pas simplement : elle comprend que la méthode habituelle ne convient pas et peut dire : « Il n'y a pas de place pour une clé ici, il faut une autre approche ».
La ville comme organisme : les leçons de la nature pour des routes sans embouteillages
La ville respire et se nourrit, son sang circule dans les routes. Mais tandis que les ingénieurs tracent des lignes droites, la nature peaufine depuis des millions d'années le réseau idéal : les rivières trouvent infailliblement leur chemin vers la mer, la feuille est parcourue de nervures sans un seul vaisseau superflu.