acquisition du langage neuronal

Dans les années 1980, le concours DARPA de reconnaissance vocale a mis fin au débat entre les méthodes statistiques et les règles écrites à la main, établissant une norme unique pour tout le domaine.

En mars 2020, la France s'est vidée : les gens ont cessé d'aller au travail, à l'école et au café, et les rues se sont remplies de silence. Les épidémiologistes regardaient les courbes et comprenaient que le virus ne se propageait pas tout seul, mais par les poignées de main, les conversations et les trajets en métro.

Dans la glace antarctique, une particule fantôme ne laisse qu'un faible éclat de lumière bleue. Le détecteur IceCube capture ces éclats, et à partir d'eux, il faut déterminer d'où vient la particule. Le modèle PolarBERT a appris à le faire, mais ce qu'il voit réellement à l'intérieur restait un mystère.

Dans une réception bruyante, une personne âgée fait répéter son interlocuteur encore et encore : les mots se noient dans le brouhaha des voix. C'est ainsi que se présente le pont par lequel le son va de l'oreille au sens. Tant que ce pont est solide, le bruit ne fait que gêner, sans interrompre la conversation.

La classe se tait après la leçon, mais dans la tête de l'enfant résonne encore un écho : des visages, des objets, des lieux. C'est cet écho, et non la leçon elle-même, qui décide de ce qui restera en mémoire. Des chercheurs l'ont capté pour la première fois chez des enfants de 6 à 17 ans.

Chaque battement de cœur envoie dans les artères cérébrales une onde qui non seulement pousse le sang, mais gonfle aussi brièvement le vaisseau. La paroi artérielle, comme un tube de caoutchouc bien tendu, transmet ce mouvement au tissu cérébral voisin, et celui-ci pulse à peine, en cadence avec le rythme cardiaque.

Le cerveau ressemble à un orchestre dont le chef est le cortex et le premier violon, le thalamus. Le thalamus transmet les signaux des yeux vers le cortex visuel. Mais le cortex peut aussi renvoyer des commandes en retour, ajustant le thalamus à la tâche en cours. Cela n'était auparavant qu'une hypothèse, désormais testée sur des humains.

Le magnétoencéphalographe, un appareil qui ressemble à un casque muni de centaines de capteurs, capte les faibles champs magnétiques produits par les neurones en activité. Lorsqu'une personne écoute de la parole, ces signaux renferment des empreintes des mots entendus.

Un stade bondé entend pour la première fois la voix du commentateur – et aussitôt, toute la foule s’anime. Le message retentit encore et encore. Seule une poignée de spectateurs, dans les rangs voisins, réagit. C’est à peu près ainsi que se comportent les réseaux de neurones dans les organoïdes cérébraux – ces mini-cerveaux cultivés en laboratoire.

L'esprit humain ressemble à un jeu de construction qui s'auto-construit. Les nouvelles idées ne meurent pas avec leur créateur : elles se transmettent, se mélangent et sont sélectionnées. Ce processus est appelé évolution culturelle : les inventions utiles se consolident, les inutiles tombent dans l'oubli. C'est le principe du cliquet, ce mécanisme qui ne tourne que dans un sens.

Les signaux radio dans une pièce se comportent comme le son dans une salle de concert : en se réfléchissant sur les murs et les objets, ils créent une empreinte unique — la mélodie silencieuse de chaque lieu. Le téléphone, telle une oreille attentive, capte cette mélodie dans le bruit et les distorsions. Il mémorise quel accord correspond au coin du canapé, et lequel à l'embrasure de la porte.

Une IA classique regarde les images médicales comme des puzzles faits de pièces inconnues : elle considère que deux images non appariées sont complètement différentes. C'est comme essayer de distinguer des jumeaux sans connaître leur lien de parenté. Or, en médecine, les patients atteints d'une même maladie présentent des IRM presque identiques, et l'algorithme se trompe en confondant les « parents ».

L'intelligence artificielle qui prédit l'acoustique d'une salle fait penser à un étudiant qui triche à l'examen avec une antisèche. Si les points de validation sont les mêmes que ceux de l'entraînement, le modèle se contente de mémoriser l'« empreinte » sonore de chaque position, comme un étudiant qui reconnaît un sujet grâce à un coin de page plié.

Un programme de suivi ordinaire ressemble à un navigateur qui guide un navire à l'aide des étoiles. Mais dès que le ciel se couvre, les coordonnées dérivent et l'incertitude dans les données augmente — c'est ce qu'on appelle l'entropie. Le nouvel algorithme s'adjoint un « copilote » : un module qui surveille le niveau de confiance du navigateur principal.

L'approche standard actuelle de l'apprentissage de l'IA ressemble à un enfant enfermé dans une bibliothèque : il mémorise des millions de livres, mais ignore que le feu brûle et que la chute fait mal.

Un grand réseau de neurones, comme Whisper, maîtrise des centaines de langues et ressemble au modèle standard de l'univers : tout est équilibré. Mais l'apprentissage d'une langue rare rompt cet équilibre — elle se transforme en trou noir qui attire toutes les ressources d'apprentissage.

Les machines complexes — des drones aux robots chirurgiens — se comportent parfois comme un mustang sauvage : pleines de désordre et de caprices, où un léger contact déclenche une tempête. Plutôt que de mémoriser des formules, la nouvelle méthode observe le système, tel un dresseur.

L'apprentissage automatique n'est plus depuis longtemps un simple outil — il devient un chercheur qui extrait lui-même les lois de la nature à partir des données. Mais comment un esprit de silicium parvient-il à la compréhension ?

Au cours du développement embryonnaire, la cellule ressemble à un musicien dans un immense orchestre : elle doit jouer sa partition en suivant le chef d'orchestre — le gradient de molécules signal. Mais le chef est peu fiable : la concentration des morphogènes fluctue constamment.

Dans la salle d'audience, une chaîne de caractères est présentée en entrée. Douze jurés (les chemins de calcul) l'examinent symbole par symbole. Chacun peut déclarer « coupable » (accepter) ou « non coupable ». Pour un automate non déterministe ordinaire (NFA), un seul vote « pour » suffit.

Un cercle vertueux : la machine émet une idée, la teste sur des humains, constate les échecs et génère une nouvelle hypothèse, plus précise. C'est ainsi que fonctionne AutoCog, le scientifique cognitif automatique. Auparavant, dans la science de l'esprit (les sciences cognitives), la partie la plus difficile — inventer une théorie — était réservée aux humains.

Vous racontez une histoire à un ami, et son cerveau semble s'accorder sur votre fréquence — les mêmes zones s'activent en rythme avec vos paroles.

Une personne regarde une serrure de porte et voit la fente pour la clé. Elle sait qu'on insère la clé et qu'on la tourne. Mais si, au lieu d'une serrure, il y a un panneau tactile, le cadre habituel se brise. La personne ne se trompe pas simplement : elle comprend que la méthode habituelle ne convient pas et peut dire : « Il n'y a pas de place pour une clé ici, il faut une autre approche ».

Dans une éprouvette, des molécules flottent. Leur quantité — disons, la concentration d'une certaine protéine — devient le signal d'entrée. Et à la sortie, on ne veut pas juste une solution trouble, mais une réponse claire du genre « oui » ou « non ». Les auteurs de l'étude construisent une chaîne chimique qui fait exactement cela.

La main trace dans l'air le mot « maman » — des arcs et des bâtons familiers. Le cerveau, lui, ne fait pas défiler la photo de chaque lettre. Il déclenche une chaîne de mouvements simples. Des neuro-ingénieurs ont testé cette idée : l'écriture mentale n'est pas une galerie d'images toutes faites, mais un jeu de construction à partir des mêmes « briques » motrices.

Un peintre compose son tableau en observant le spectateur dans la salle. Si le spectateur sourit, le peintre ajoute plus de rouge et de courbes ; s'il fronce les sourcils, il retire le bleu et casse les angles.

Cent personnes parlent en même temps dans une grande salle. Vous essayez d'en écouter une seule — mais les voix se fondent, certaines chuchotent, et vous ignorez même l'existence de certaines. C'est à peu près ce que ressent un analyseur de gaz laser classique lorsque des dizaines de substances se mélangent dans une chambre de combustion ou un tuyau d'usine.

Un pré d'été ne revient pas en mémoire comme une simple image : avec elle reviennent l'odeur de l'herbe et la chaleur du soleil. Le cerveau colle les sensations en une image unique, et celle-ci tient plus solidement que chacune prise séparément. Mais comment exactement les neurones cousent-ils le visuel à l'olfactif est longtemps resté une énigme.

Le médecin scrute l'image du cerveau : quelque part dans l'enchevêtrement des tissus se cache une tumeur. Un regard saisit les petites taches et les contours, l'autre la forme générale et l'emplacement. L'humain combine les deux, mais sur des centaines d'images, c'est épuisant. Le nouveau programme fait la même chose automatiquement.

52,4 nDCG@10 — c'est le résultat que ModernBERT affiche après la procédure Vocabulary Transfer. Hier encore, il se perdait dans les registres, aujourd'hui il dépasse les meilleurs moteurs de recherche sparse. Le réseau de neurones échoue dans la recherche parce qu'il n'arrive pas à se mettre d'accord sur les mots. Token et token sont pour lui deux univers distincts.

La parole ressemble à un orchestre où chaque note doit retentir au bon moment. Le cerveau transforme une pensée en une chaîne de sons en une fraction de seconde, et on ignorait jusqu'ici comment il gère cette hiérarchie — des sons individuels aux syllabes et aux mots entiers.

Les neurones du cerveau et les nœuds des réseaux de neurones artificiels ne manipulent pas seulement des « oui » et des « non » isolés, mais aussi des grandeurs qui varient de manière continue : où se trouve exactement un objet, quelle est sa taille.

Un couteau de cuisine et un économe, pris séparément, accomplissent des tâches différentes, mais lorsqu'un cuisinier apprend une nouvelle recette, il saisit souvent le même couteau pour tout. Il semble que le cerveau fasse de même lorsqu'il acquiert une nouvelle compétence de discrimination visuelle.

La science ressemble à une ville où les rues sont tracées par les habitants eux-mêmes. Là où des sentiers sont déjà battus, on construit de nouvelles maisons, tandis que les terrains vagues restent ignorés — non pas parce qu'on ne peut pas y bâtir, mais parce que personne n'y va.

Le chimiste développeur de médicaments ressemble à un détective qui cherche la bonne substance parmi des millions de suspects. Les réseaux de neurones modernes accélèrent la recherche, mais se comportent comme un témoin qui dit « c'est lui » sans vouloir s'expliquer.

Les protéines sont des chaînes d'acides aminés, et on y rencontre souvent des segments répétés. Parfois, les répétitions sont exactes, comme une même phrase prononcée deux fois. Parfois, elles comportent des « coquilles » : quelques lettres sont changées, mais le sens reste le même.

Les protéines dans la nature, c'est comme les grains de sable sur une plage, et chacune a son rôle : certaines décomposent les aliments, d'autres construisent les cellules. Mais pour comprendre ce que fait précisément une protéine, il faut l'étudier en laboratoire — ce qui est lent et coûteux.

La nuit, on respire, et le rythme de cette respiration en dit long sur notre sommeil. Mais d'habitude, les médecins examinent les ondes électriques du cerveau, enregistrées par des capteurs posés sur la tête. Ces travaux montrent comment, à partir de la seule respiration, on peut reconstituer ces ondes sans toucher la tête.

Un détective cherche un criminel dans ses fichiers, mais les portraits y sont mélangés. Il s'attend à un homme à la barbe grise, alors que le criminel est jeune et imberbe. De même, les médecins ne reconnaissent souvent pas la maladie d'Alzheimer chez ceux qui présentent des symptômes inhabituels : non pas une perte de mémoire, mais des troubles de la vision ou du langage.

Lorsqu'une tumeur affecte tout le cerveau, les médecins irradient l'ensemble de l'organe. C'est une méthode fiable, mais le réglage de l'irradiation est un travail minutieux : il faut choisir les paramètres pour que la tumeur reçoive la dose appropriée tout en épargnant au maximum les yeux et les cristallins.