Calcul neuronal et évolutionniste cs.NE

Un neurone dans le cerveau ressemble à une personne qui distribue ses cartes de visite lors d'une conférence très fréquentée. Au début, il fait facilement des connaissances, mais à mesure que son carnet d'adresses se remplit, chaque nouveau contact exige de plus en plus d'efforts — il reste peu de place libre.

Les ingénieurs qui améliorent les réseaux de neurones agissent comme des sélectionneurs : ils essaient une variante, observent le résultat, conservent la meilleure. Ils ont rassemblé 935 de ces essais issus de 161 articles et mesuré à quelle fréquence une modification de code s'avère bénéfique, nuisible ou sans effet.

Un orchestre où chaque musicien joue sa partition mais n'entend que son voisin. Qu'un seul se trompe, et une vague d'erreurs déferle sur toute la salle. C'est ainsi que fonctionnent les machines d'Ising, des dispositifs spécialisés dans la résolution de problèmes où il faut trouver la meilleure option parmi une multitude.

Un orchestre à la première répétition sans chef. Les violons attaquent à contretemps, les cuivres sont en retard, et au lieu d'une symphonie, c'est la cacophonie. C'est à peu près ce qui se passe dans un modèle informatique du cerveau lorsqu'on en retire des cellules particulières : les neurones de von Economo.

Un robot dans un labyrinthe avance vers une impasse. Une minute plus tard, il trouve la sortie avant tout le monde. Cette manœuvre illogique est de l'exploration, pas une erreur. C'est ainsi qu'un cartographe contourne une montagne pour voir ses versants.

Communiquer avec des neurones vivants rappelle le réglage d'une vieille radio : il faut non seulement capter la bonne fréquence, mais aussi orienter l'antenne.

Garder en tête la position exacte d'un stylo qu'on déplace lentement est une tâche banale pour le cerveau. Pour les réseaux de neurones artificiels, c'est presque impossible. Les réseaux récurrents classiques, comme GRU et LSTM, ont tendance à découper le mouvement continu en paliers rigides : le stylo ne glisse pas de façon fluide, il saute d'un point à un autre.

Un faisceau lumineux entre dans une cuve en verre contenant de la vapeur de césium et modifie l'état interne des atomes : c'est ainsi que l'information est enregistrée. Un instant plus tard, un autre faisceau la lit en observant comment les atomes absorbent la lumière. Ce n'est pas un disque dur, mais plutôt un carnet qui tourne les pages tout seul.

Se perdre dans une salle des glaces est un jeu d'enfant : chaque mur reflète l'autre, et l'on croit être déjà passé par là. C'est à peu près ce qui se passe dans le cerveau lorsqu'il y a beaucoup d'endroits similaires autour de soi. Les neurones chargés de la carte spatiale peuvent envoyer le même signal pour deux coins différents d'une pièce.