Dans un immeuble de neuf étages, avec mille pièces à chaque niveau, certains chuchotent, d'autres crient. Les voisins transmettent les paroles, mais si tout le monde parle trop bas, le message s'éteint dès le troisième étage. S'ils parlent trop fort, il devient un rugissement inintelligible au dernier étage. Entre ces extrêmes, il existe un régime où le chuchotement parvient jusqu'en haut sans distorsion. Les neuroscientifiques l'appellent le point critique, et le cerveau semble fonctionner précisément là.
Pendant longtemps, on pensait que seul un réglage externe pouvait amener un réseau à l'état critique, comme un accordeur de piano ajuste les cordes. Mais les auteurs de cette nouvelle étude ont mené une expérience simple : ils ont laissé chaque neurone décider lui-même de renforcer ou d'affaiblir ses connexions, en se fiant uniquement à sa propre activité. La règle tient en une ligne : si un neurone est trop actif, affaiblis la connexion entrante ; s'il est trop passif, renforce-la. Pas de thermomètre, aucune mesure sur l'ensemble du réseau.
Les chercheurs ont pris un réseau entièrement connecté avec neuf couches cachées de mille neurones chacune et l'ont lancé depuis différents états initiaux, allant d'un silence presque total à un bruit assourdissant. Après vingt époques de cet auto-ajustement, tous les réseaux ont convergé vers le même régime : l'activité a cessé de décroître ou de croître, et la force moyenne des connexions a atteint un plateau commun. Le réseau a trouvé tout seul le point critique, comme l'eau trouve son niveau.
Mais lorsqu'on a ajouté un apprentissage supervisé classique à cet auto-ajustement, une compétition s'est installée. La descente de gradient tire le réseau vers la résolution de la tâche, tandis que l'homéostasie le tire vers la criticité. Ces deux forces ont poussé les poids dans des directions opposées, et plus la règle d'autorégulation était forte, moins le réseau reconnaissait bien les chiffres. La descente de gradient pure donnait la meilleure précision, et le renforcement de l'homéostasie la réduisait progressivement.
Un thermostat sans thermomètre fonctionne, mais il ne sait pas encore s'entendre avec la tâche. C'est là tout le défi : combiner la recherche de la criticité avec l'apprentissage d'une compétence utile. Peut-être que la solution réside dans une règle de plasticité générale qui prendrait en compte à la fois l'activité locale et le signal global de la tâche. Ainsi, le réseau pourrait rester au bord du chaos tout en résolvant des problèmes pratiques, comme le cerveau qui parvient à penser sans surchauffer.
La règle d'homéostasie est si simple qu'on peut la décrire en une ligne : si un neurone est trop actif, affaiblissez la connexion entrante ; s'il est trop passif, renforcez-la. Et cela suffit pour que le réseau trouve lui-même le point critique.