réseau aléatoire

Imaginez un grand orchestre sans chef. Chaque musicien entend tous les autres et s'adapte au bruit ambiant. Si chaque instrument amplifie ses voisins, le son monte jusqu'au crissement ; s'il les atténue parfois, l'orchestre peut se figer dans le silence ou sombrer dans la cacophonie.

Imaginez une volée d'oiseaux qui se rassemble autour d'une mangeoire que personne n'a construite. Chaque oiseau cherche sa nourriture pour lui-même, mais au final, ils se retrouvent ensemble. D'habitude, on explique ce comportement par un instinct social : les oiseaux veulent être près de leurs congénères. Mais et si la nuée n'était qu'un effet secondaire de la cupidité ?

Dans un immeuble de neuf étages, avec mille pièces à chaque niveau, certains chuchotent, d'autres crient. Les voisins transmettent les paroles, mais si tout le monde parle trop bas, le message s'éteint dès le troisième étage. S'ils parlent trop fort, il devient un rugissement inintelligible au dernier étage. Entre ces extrêmes, il existe un régime où le chuchotement parvient jusqu'en haut sans distorsion.

Dans une casserole d'eau flottent des billes microscopiques — des particules colloïdales. Chaque bille est recouverte de longs filaments polymères, semblables à une brosse, et porte une charge électrique. Si l'on choisit correctement la température et la composition de la solution, les billes commencent d'elles-mêmes à s'organiser en motifs ordonnés — des cristaux.

Un livre de recettes sans liste de courses, voilà ce que découvre un scientifique face à un schéma de réactions chimiques. Les flèches et les formules sur le papier semblent cohérentes, mais dès qu'on cherche en laboratoire des molécules qui se comporteront exactement comme prévu, la véritable chasse au trésor commence.

Garder en tête la position exacte d'un stylo qu'on déplace lentement est une tâche banale pour le cerveau. Pour les réseaux de neurones artificiels, c'est presque impossible. Les réseaux récurrents classiques, comme GRU et LSTM, ont tendance à découper le mouvement continu en paliers rigides : le stylo ne glisse pas de façon fluide, il saute d'un point à un autre.

L'esprit humain ressemble à un jeu de construction qui s'auto-construit. Les nouvelles idées ne meurent pas avec leur créateur : elles se transmettent, se mélangent et sont sélectionnées. Ce processus est appelé évolution culturelle : les inventions utiles se consolident, les inutiles tombent dans l'oubli. C'est le principe du cliquet, ce mécanisme qui ne tourne que dans un sens.

Un neurone reçoit des milliers de signaux sur ses prolongements ramifiés — les dendrites. Certains signaux poussent la cellule à s'activer (excitation), d'autres la retiennent (inhibition). Pendant longtemps, on a pensé que le neurone se contentait d'additionner tous les « pour » et les « contre ».

Un nuage d'atomes refroidi à presque zéro absolu se met soudain à se comporter comme un cerveau. Un atome excité déclenche une réaction en chaîne — les voisins « s'allument » à leur tour, et une avalanche d'activité parcourt le gaz. Les physiciens appellent cela la facilitation de Rydberg : les atomes s'excitent plus facilement si un atome excité se trouve à proximité.

Une ville la nuit : certaines fenêtres sont éclairées, d'autres sont sombres. Si l'on relie par des lignes les fenêtres qui s'allument simultanément, on obtient une toile de connexions. C'est une telle toile que des chercheurs ont étudiée pour de minuscules organoïdes cérébraux – des amas vivants de cellules nerveuses cultivés en laboratoire.

Le fond optique du ciel est un palimpseste cosmique, où la lumière de milliards de galaxies non résolues s'empile en couches correspondant à différentes époques. Jusqu'ici, nous ne distinguions que les « lettres » les plus brillantes — les étoiles individuelles et les galaxies proches.

Communiquer avec un satellite, c'est comme essayer d'entendre un murmure dans une tempête : le signal se noie dans les parasites. Des ingénieurs ont créé un algorithme d'IA qui fonctionne directement sur le satellite et qui, avec une consommation d'énergie minimale, identifie les distorsions plus précisément que les méthodes précédentes.

Dans une soupe bouillonnante, les molécules entrent en collision de manière chaotique et réagissent. Mais si l'on mesure comment leurs concentrations varient, des régularités apparaissent.

Après qu'une pierre a été jetée, les cercles à la surface de l'eau disparaissent, mais le liquide conserve des vibrations microscopiques. Le moindre souffle – et la ride renaît. Les réseaux de neurones se comportent de manière similaire.

Sur une cuisinière à gaz, chaque brûleur chauffe différemment. Si le cuisinier déplace les casseroles, la nourriture peut brûler. Il en va de même dans un réseau sans fil : les antennes-brûleurs et les utilisateurs-casseroles nécessitent un placement précis. Les réseaux de neurones classiques ne distinguent pas les positions, considérant tous les brûleurs comme identiques.

L'évolution ne ressemble pas seulement à un arbre aux branches divergentes, mais à une toile tissée. Les fils des lignées se croisent lorsque les espèces échangent des gènes — par exemple, les bactéries se transmettent des résistances aux médicaments, et les plantes s'hybrident.

Un flocon de neige grandit, une nappe de pétrole s'étale, une foule se déplace – les équations diffèrent pour chaque cas. Mais le résultat final est souvent le même : la forme, la vitesse, le motif obéissent à un schéma simple qui se répète à différentes échelles. C'est cela, l'universalité : derrière les détails se cache une loi commune.

En 1967 déjà, Jocelyn Bell Burnell captait la première « voix » d'une étoile à neutrons — le pouls régulier d'un pulsar.

Une infime poussière dans une solution sursaturée se couvre en quelques secondes de facettes de cristal. Les particules voisines restent invisibles. Un processus similaire a récemment été découvert dans les communautés d'grands modèles de langage.

Une poignée de sable tombe sur une table — et chaque grain roule vers le bas jusqu'à ce qu'il se fige dans un creux. C'est ainsi que fonctionne le potentiel : la surface de la table indique aux particules où aller. Mais dans une rivière avec des tourbillons, il n'y a pas un seul creux vers lequel tout converge. L'eau tourne, revient, serpente.

Un réseau de neurones, telle une feuille de papier quadrillé, reçoit des signaux homogènes en entrée – et trace lui-même sa grille de coordonnées. D'abord, les connexions entre les entrées et les cellules du réseau deviennent semblables à une colline douce : la réponse est plus forte au centre et s'atténue vers les bords.

Vue de l'extérieur, la croissance d'une population ressemble à un train qui prend de la vitesse : d'abord il avance péniblement, puis il accélère. Mais dès qu'on plonge dans les données, l'image se brouille. Dans une mesure, on compte une dizaine d'individus ; dans une autre, une centaine d'un coup.

Extraire une seule puce défectueuse parmi un million, sans aucun indice sur la nature du défaut, est un problème classique de chercher une aiguille dans une botte de foin. Un ordinateur classique testerait chaque puce une par une.

La ville respire et se nourrit, son sang circule dans les routes. Mais tandis que les ingénieurs tracent des lignes droites, la nature peaufine depuis des millions d'années le réseau idéal : les rivières trouvent infailliblement leur chemin vers la mer, la feuille est parcourue de nervures sans un seul vaisseau superflu.

Un orchestre à la première répétition sans chef. Les violons attaquent à contretemps, les cuivres sont en retard, et au lieu d'une symphonie, c'est la cacophonie. C'est à peu près ce qui se passe dans un modèle informatique du cerveau lorsqu'on en retire des cellules particulières : les neurones de von Economo.

On peut palper un objet inconnu dans le sens de la longueur, en travers, en diagonale — à chaque fois, on obtient une nouvelle information. Mais que se passerait-il si une méthode de palpation ne nous apprenait absolument rien sur ce que révélerait une autre ?

Après une partie de Scrabble, le plateau ressemble à une mosaïque : les lettres sont éparpillées mais forment un motif connecté — des îlots de mots au milieu d'une mer de cases vides. Un tel motif peut être décrit mathématiquement, mais cela nécessite généralement des règles complexes.

Trois personnes sont assises aux trois coins d'une pièce. Chacune reçoit une enveloppe scellée d'un coursier invisible — mais les coursiers ne se concertent pas et ne se sont jamais rencontrés. Les gens ouvrent les enveloppes et voient un mot : « oui » ou « non ». Ils ne choisissent rien eux-mêmes — ils lisent simplement.

Le cerveau jongle constamment avec les tâches : tantôt il réagit à un bruit soudain, tantôt il résout une équation, tantôt il se laisse aller à la rêverie. Les scientifiques soupçonnaient depuis longtemps que des bascules entre différents « scénarios » de fonctionnement des réseaux de neurones étaient à l'œuvre, mais il était difficile de les isoler du chaos des signaux électriques.

Deux coureurs sur la même piste. L'un part du milieu de la distance, l'autre de zéro. Qui est le plus rapide ? La réponse est évidente, mais en neurosciences, ce genre de subterfuge est longtemps passé inaperçu.

Un laser, qui d'ordinaire émet un faisceau régulier, se met à trembler près du seuil d'émission, comme une corde qui vibre avant de produire un son. Ces tremblements ne sont pas un défaut, mais du bruit quantique : les atomes à l'intérieur du laser émettent de la lumière de manière aléatoire, sans aucune cause externe.

Les neurones du cerveau et les nœuds des réseaux de neurones artificiels ne manipulent pas seulement des « oui » et des « non » isolés, mais aussi des grandeurs qui varient de manière continue : où se trouve exactement un objet, quelle est sa taille.

Le cerveau d'une souris compte environ 70 millions de neurones, et les connexions entre eux sont loin d'être réparties également : certaines cellules n'ont que quelques dizaines de contacts, d'autres en ont des milliers. C'est comme une ville avec des ruelles tranquilles et des places bondées.

Le cerveau n'est pas un gros ordinateur unique, mais plutôt un orchestre où différents groupes de musiciens jouent leurs partitions. Les réseaux de neurones responsables de la mémoire, de l'attention ou des émotions communiquent constamment. Dans la maladie d'Alzheimer, cet orchestre commence à jouer faux : certains groupes se taisent, d'autres jouent à contretemps.

Un écoulement turbulent dans un tuyau et les oscillations d'un pendule semblent très différents. Mais ils ont un point commun : tous deux obéissent à leurs propres lois du mouvement, qui peuvent être décrites par des nombres.

On peut comparer un réseau de neurones à une résidence où chaque locataire dispose de sa propre chambre. En général, chaque signal dans les données occupe un neurone distinct, et l'apprentissage se fait séquentiellement : d'abord un signal, puis un autre. C'est lent et cela dépend des données rencontrées.

Les protéines dans une cellule communiquent comme les habitants d'une immense ville : certaines transmettent des signaux, d'autres freinent, d'autres encore sont simplement à proximité. Le réseau de neurones à graphes voit la carte de ces connexions — qui est relié à qui — mais pour lui, ce ne sont que des lignes.

Une photo prise à travers un verre dépoli est toujours floue. La lumière, en traversant l'échantillon, se diffuse, et la caméra ne voit qu'une tache au lieu d'une image nette.

Sur une table traîne une poignée de petits aimants ronds. Tant qu'on ne les touche pas, ils restent en désordre. Mais qu'on envoie une brève impulsion de courant à travers eux, et chaque disque bascule : le pôle nord échange sa place avec le pôle sud.

Un groupe de personnes cherche un objet perdu dans un grand parc. Certains se fatiguent et partent, d'autres se joignent en chemin. Le nombre de chercheurs ne cesse de changer. Comment cela affecte-t-il le temps de recherche ? Jusqu'à présent, la science n'avait pas de réponse claire. Dans une nouvelle étude, un modèle général de ce processus a été construit.