méthode

réseaux de neurones récurrents

Recurrent neural networks are neural architectures designed for sequential data processing, applied in particle energy measurement, molecular dynamics, and memory consolidation studies.
38 articles liés

Description

La baguette du chef d'orchestre s'immobilise dans l'air — le musicien attend, en se souvenant du motif précédent. Le réseau récurrent parcourt les jetons de la séquence (caractères ou mots) et après chacun met à jour l'état caché (vecteur de nombres). Cet état est une description compressée de tout ce qui a été vu jusqu'à présent. Grâce à la boucle de rétroaction, le réseau est capable de saisir les dépendances entre des éléments éloignés : par exemple, l'accord du cas dans une longue phrase allemande.

Histoire

Les fondements remontent aux travaux de John Hopfield (1982) et aux réseaux avec rétroaction. En 1986, David Rumelhart et al. ont appliqué la rétropropagation aux RNN. L'application pratique a été freinée par le problème de l'évanouissement/explosion des gradients. En 1997, Sepp Hochreiter et Jürgen Schmidhuber ont proposé le LSTM (longue mémoire à court terme) avec des éléments de contrôle — les portes, résolvant le problème des dépendances à long terme. En 2014, Kyunghyun Cho et al. ont présenté le GRU. Depuis le milieu des années 2010, les RNN sont progressivement remplacés par les transformeurs, mais restent importants dans les tâches en flux continu.

Comment ça marche

À l'étape t, le RNN reçoit le vecteur d'entrée x_t et l'état caché précédent h_{t-1}, puis calcule le nouvel état : h_t = \tanh(W_x x_t + W_h h_{t-1} + b). Le vecteur h_t est envoyé à la couche de sortie pour prédire y_t et transmis à l'étape suivante. Les paramètres W_x, W_h, b sont communs à toutes les étapes, ce qui permet la généralisation sur des séquences de différentes longueurs. L'entraînement est effectué en déroulant le réseau dans le temps (backpropagation through time). Le LSTM ajoute une cellule mémoire c_t et trois portes : d'oubli, d'entrée et de sortie, qui régulent le flux d'informations.

En pratique

Saisie automatique de texte sur le téléphone, traduction automatique, lecture de longues phrases par une enceinte connectée.

Anecdote

Les réseaux LSTM, créés en 1997, sont restés pendant près de 20 ans l'outil principal de la traduction automatique, jusqu'à ce qu'ils soient supplantés par les transformeurs — mais ils sont encore utilisés dans des millions de smartphones pour la saisie automatique de texte.

Concept graph →

Articles liés · 124

L'équilibre des connexions, tel un bouton de volume du chaos
Imaginez un grand orchestre sans chef. Chaque musicien entend tous les autres et s'adapte au bruit ambiant. Si chaque instrument amplifie ses voisins, le son monte jusqu'au crissement ; s'il les atténue parfois, l'orchestre peut se figer dans le silence ou sombrer dans la cacophonie.
L'équilibre des connexions, tel un bouton de volume du chaos
Imaginez un grand orchestre sans chef. Chaque musicien entend tous les autres et s'adapte au bruit ambiant. Si chaque instrument amplifie ses voisins, le son monte jusqu'au crissement ; s'il les atténue parfois, l'orchestre peut se figer dans le silence ou sombrer dans la cacophonie.
Le cerveau face au labyrinthe de miroirs
Se perdre dans une salle des glaces est un jeu d'enfant : chaque mur reflète l'autre, et l'on croit être déjà passé par là. C'est à peu près ce qui se passe dans le cerveau lorsqu'il y a beaucoup d'endroits similaires autour de soi. Les neurones chargés de la carte spatiale peuvent envoyer le même signal pour deux coins différents d'une pièce.
Optique2026-08-171 minarXiv:2608.16576express
Comment l'IA lit l'ADN molécule par molécule
Une molécule d'ADN, coincée dans une minuscule fente métallique, tremble et scintille sous le laser. Son signal n'est pas une ligne claire de lettres, mais un mélange chaotique d'éclairs et d'ombres. Déchiffrer ce bruit, c'est comme essayer de comprendre un murmure dans une salle bondée. Le nouveau réseau de neurones agit comme un interprète attentif.
L'IA cherche des matériaux comme un chef cuisinier
La recherche d'un nouveau matériau ressemble à la cuisine sans recette : on essaie, on essaie, et souvent on jette. Avant, les scientifiques feuilletaient les articles à la main et testaient les compositions une par une. Maintenant, un « robot-cuisinier » est apparu, qui lit lui-même la littérature, mélange les composants et regarde ce que ça donne.
Physique quantique2026-08-101 minarXiv:2608.09850express
Systèmes quantiques et fils de mémoire
Une goutte d'encre dans un verre d'eau se répand en volutes étranges. De même, une particule quantique, en échangeant de l'énergie avec son environnement, change d'état d'une manière complexe et enchevêtrée. Décrire cette danse entre la particule et le milieu est un défi qui a longtemps laissé les scientifiques perplexes.
Des balises radio au rythme de la minute : qui les allume ?
Un phare qui ne clignote pas à chaque seconde, mais toutes les quelques minutes, voire quelques heures. C'est exactement le comportement des transitoires radio à longue période, des sources cosmiques découvertes très récemment.
L'IRM cérébrale apprend à ne pas oublier
Un médecin passe des années à apprendre à reconnaître les maladies sur les images du cerveau. D'abord, il repère parfaitement les signes du vieillissement, puis il maîtrise les tumeurs – et soudain, il se met à confondre ce qu'il savait auparavant. C'est à peu près ce qui arrive à de nombreux réseaux de neurones : les nouvelles connaissances effacent les anciennes.
Quand la maladie revient sur ses pas
Le facteur distribue le courrier dans des rues à sens unique. Tant qu'il avance, son parcours est simple et prévisible. Mais si on autorisait soudain les demi-tours, il commencerait à revenir sur ses pas, à croiser ses propres traces — et le schéma de distribution deviendrait confus. C'est à peu près ce qui se passe avec une infection lorsque les gens peuvent tomber malades plusieurs fois.
Recette pour une cellule : pourquoi on ne peut pas bricoler la chimie à la va-vite
Un livre de recettes sans liste de courses, voilà ce que découvre un scientifique face à un schéma de réactions chimiques. Les flèches et les formules sur le papier semblent cohérentes, mais dès qu'on cherche en laboratoire des molécules qui se comporteront exactement comme prévu, la véritable chasse au trésor commence.
Une division qui ne fragmente pas la mémoire
Garder en tête la position exacte d'un stylo qu'on déplace lentement est une tâche banale pour le cerveau. Pour les réseaux de neurones artificiels, c'est presque impossible. Les réseaux récurrents classiques, comme GRU et LSTM, ont tendance à découper le mouvement continu en paliers rigides : le stylo ne glisse pas de façon fluide, il saute d'un point à un autre.
Une division qui ne fragmente pas la mémoire
Garder en tête la position exacte d'un stylo qu'on déplace lentement est une tâche banale pour le cerveau. Pour les réseaux de neurones artificiels, c'est presque impossible. Les réseaux récurrents classiques, comme GRU et LSTM, ont tendance à découper le mouvement continu en paliers rigides : le stylo ne glisse pas de façon fluide, il saute d'un point à un autre.
La poste à l'intérieur du neurone : comment les molécules trouvent leurs destinataires
Dans les prolongements longs du neurone — les dendrites — de minuscules coursiers vont et viennent sans cesse. Ce sont des molécules d'ARN messager qui portent les instructions pour la fabrication des protéines. Leur trajet commence dans le corps cellulaire et se termine aux synapses — les contacts avec d'autres neurones.
La poste à l'intérieur du neurone : comment les molécules trouvent leurs destinataires
Dans les prolongements longs du neurone — les dendrites — de minuscules coursiers vont et viennent sans cesse. Ce sont des molécules d'ARN messager qui portent les instructions pour la fabrication des protéines. Leur trajet commence dans le corps cellulaire et se termine aux synapses — les contacts avec d'autres neurones.
Une pensée lue dans le champ magnétique
Le magnétoencéphalographe, un appareil qui ressemble à un casque muni de centaines de capteurs, capte les faibles champs magnétiques produits par les neurones en activité. Lorsqu'une personne écoute de la parole, ces signaux renferment des empreintes des mots entendus.
Le cerveau comme prédicteur : un nouveau regard sur les circuits neuronaux
Le cerveau ne se contente pas de réagir au monde – il ne cesse de deviner ce qui va se passer l'instant d'après. Ce principe porte le nom de codage prédictif : les neurones comparent leurs attentes à la réalité et mettent à jour leur représentation interne lorsqu'une erreur survient. Mais comment un système aussi complexe peut-il être organisé dans le tissu vivant du cortex ?
Le cerveau comme prédicteur : un nouveau regard sur les circuits neuronaux
Le cerveau ne se contente pas de réagir au monde – il ne cesse de deviner ce qui va se passer l'instant d'après. Ce principe porte le nom de codage prédictif : les neurones comparent leurs attentes à la réalité et mettent à jour leur représentation interne lorsqu'une erreur survient. Mais comment un système aussi complexe peut-il être organisé dans le tissu vivant du cortex ?
Aller-retour : comment un réseau de neurones se vérifie sans indices
Un réseau de neurones prédit l'avenir d'un système — par exemple, comment le plasma va tourbillonner dans un champ magnétique ou comment un visage va changer dans une vidéo. Les erreurs sont inévitables, et plus il regarde loin, plus elles s'accumulent.
La chimie regarde les molécules avec les yeux d'un ordinateur
Prédire le rendement d'une réaction chimique, c'est un peu comme essayer de deviner la récolte en ne connaissant que la composition du sol. Traditionnellement, les chimistes s'appuyaient sur de longues colonnes de nombres – les descripteurs quantiques – qui décrivent l'énergie des électrons mais restent muets sur la forme de la molécule.
La toile cosmique tenue en laisse par un réseau de neurones
Dans une pièce sombre, de la musique joue. De la poudre fine, presque invisible, est répandue sur le sol. Les basses fréquences la font se rassembler en motifs étranges : filaments, amas, vides.
Physique biologique2026-07-282 minarXiv:2607.26295express
Comment le mouvement et les sensations s'enroulent en une boucle
Une bactérie nage vers de la nourriture. Un signal chimique la guide, mais à chaque mouvement, le signal change. Une boucle se forme : sensation — action — nouvelle sensation. Les auteurs de l'étude ont transformé cette boucle en une grandeur mesurable.
Comment un réseau de neurones apprend à lire la tapisserie magnétique du Soleil
Chaque matin, des dizaines de télescopes se braquent sur le Soleil. Leurs caméras capturent une fine bande de lumière rouge : la raie Hα, découverte par Johann Jakob Balmer. Sur les images, des filaments sombres et capricieusement incurvés apparaissent.
Comment les idées apprennent les unes des autres
L'esprit humain ressemble à un jeu de construction qui s'auto-construit. Les nouvelles idées ne meurent pas avec leur créateur : elles se transmettent, se mélangent et sont sélectionnées. Ce processus est appelé évolution culturelle : les inventions utiles se consolident, les inutiles tombent dans l'oubli. C'est le principe du cliquet, ce mécanisme qui ne tourne que dans un sens.
Comment une branche de neurone divise le signal
Un neurone reçoit des milliers de signaux sur ses prolongements ramifiés — les dendrites. Certains signaux poussent la cellule à s'activer (excitation), d'autres la retiennent (inhibition). Pendant longtemps, on a pensé que le neurone se contentait d'additionner tous les « pour » et les « contre ».
Génomique2026-07-192 minarXiv:2607.17227express
Atlas cellulaires : qui lit le mieux le langage des tissus ?
Les biologistes confient de plus en plus aux ordinateurs la lecture des « modes d'emploi » de la cellule vivante. Six modèles récents d'intelligence artificielle — Nicheformer, CellPLM, scGPT-spatial, GenePT, scELMo et Novae — sont comme six traducteurs de dialectes différents d'un même langage cellulaire.
Un organe vivant dans une boîte de Pétri révèle des boucles
Une ville la nuit : certaines fenêtres sont éclairées, d'autres sont sombres. Si l'on relie par des lignes les fenêtres qui s'allument simultanément, on obtient une toile de connexions. C'est une telle toile que des chercheurs ont étudiée pour de minuscules organoïdes cérébraux – des amas vivants de cellules nerveuses cultivés en laboratoire.
Le réseau de neurones qui ne se contente pas de prédire, mais garde les secrets des protéines
Une immense bibliothèque où chaque livre est une instruction précise pour assembler une molécule de protéine. Le réseau de neurones AlphaFold2 a lu des millions de ces livres et a appris à fournir instantanément un modèle tridimensionnel prêt à l'emploi.
Comment le cerveau dirige l'attention : un modèle de la méditation
Le cerveau d'un méditant, c'est un orchestre, et l'attention, son chef. Lorsque vous êtes concentré sur votre respiration, tous les instruments jouent en harmonie. Mais soudain, une pensée-violoncelle joue une fausse note : c'est la divagation de l'esprit.
Robot facteur sous-marin avec recharge
Sous l'eau, un faisceau lumineux s'atténue des centaines de fois plus vite que dans l'air — comme une lampe de poche dans un brouillard épais. C'est cette propriété qu'exploite le robot facteur : il repère les capteurs éparpillés sur le fond grâce à la lueur à peine visible de leurs ampoules et s'en approche au plus près.
Traitement du signal2026-07-152 minarXiv:2607.13710express
Cuisine sans délai : comment les réseaux gagnent en ultra-fiabilité
Imaginez un chef expérimenté en heure de pointe : soudain, une cuisinière tombe en panne ou un ingrédient clé vient à manquer. Au lieu de paniquer, il réorganise instantanément la recette — accélère la préparation de certains plats, ralentit d'autres, en redéployant les ressources à la volée. Ce principe d'adaptation dynamique est à la base de la nouvelle génération de réseaux ultra-fiables.
Mémoire sans pensées : comment le cerveau se souvient après le silence
Après qu'une pierre a été jetée, les cercles à la surface de l'eau disparaissent, mais le liquide conserve des vibrations microscopiques. Le moindre souffle – et la ride renaît. Les réseaux de neurones se comportent de manière similaire.
Traitement du signal2026-07-151 minarXiv:2607.14054express
Comment le calcul parallèle accélère les filtres : une leçon venue des galaxies
Un filtre traditionnel fonctionne comme une longue chaîne de personnes qui se passent un message en cercle : chacun attend que le précédent ait fini. C'est lent. Les ingénieurs ont utilisé une astuce ingénieuse — la réduction cyclique. Les données sont réarrangées de sorte que les dépendances entre échantillons ne soient plus longues, mais regroupées en petites unités.
Comment l'IA a cessé de confondre les sons dans un scénario
Les modèles qui transforment le texte en audio reproduisent bien les sons isolés, mais se mélangent les pinceaux quand le scénario en comporte plusieurs. Par exemple, selon le scénario, on a d'abord une sonnerie, puis des pas, puis un claquement de porte. Le générateur peut intervertir les événements, et le spectateur entendra les pas avant la sonnerie.
Robotique2026-07-151 minarXiv:2607.13553express
Comment un robot apprend à nager dans le chaos des courants
En eau calme, la trajectoire est claire. Mais dans les courants turbulents, le robot a besoin d'une autre stratégie. Les approches habituelles exigent une carte précise des courants, mais en réalité, on ne peut pas l'obtenir. La nature procède autrement : les poissons sentent la pression et les tourbillons directement contre leur corps.
Génomique2026-07-151 minarXiv:2607.13994express
Les fils invisibles du réseau des gènes
En mesurant l'activité de milliers de gènes, les biologistes ne voient généralement qu'une liste de coïncidences — comme deux ingrédients d'une soupe qui se retrouvent souvent ensemble. Le modèle standard recherche ce genre de paires liées, mais ne montre pas qui influence qui.
LATTICE : une grille pour unifier les données cellulaires
Pendant longtemps, les biologistes ont étudié les cellules en n'écoutant qu'une seule voix dans un chœur polyphonique : par exemple, ils mesuraient l'activité des gènes en ignorant comment l'ADN était empaqueté. C'est comme essayer de comprendre une conversation en ne connaissant qu'une seule langue.
Comment les écouteurs ont appris à voir la source du bruit
La réduction active du bruit crée un « anti-son » pour annuler le bruit. Mais les systèmes classiques sont aveugles : ils ne savent pas d'où vient le son. Dans les pièces avec écho, c'est comme boxer les yeux bandés — on atténue à l'aveugle.
Traitement du signal2026-07-141 minarXiv:2607.12744express
Un réseau de neurones avec un sens de la position améliore les communications
Sur une cuisinière à gaz, chaque brûleur chauffe différemment. Si le cuisinier déplace les casseroles, la nourriture peut brûler. Il en va de même dans un réseau sans fil : les antennes-brûleurs et les utilisateurs-casseroles nécessitent un placement précis. Les réseaux de neurones classiques ne distinguent pas les positions, considérant tous les brûleurs comme identiques.
Accélération intelligente : comment apprendre au réseau électrique à penser plus vite
Les systèmes électriques équipés de panneaux solaires et d'éoliennes ressemblent à une partie d'échecs : la couverture nuageuse et les variations de charge sont des coups de l'adversaire impossibles à prévoir. Pour maintenir l'équilibre, les opérateurs devaient auparavant évaluer des dizaines de scénarios (incertitude) — ce qui demandait trop de temps et de calculs.