Un orchestre de cent musiciens joue sans chef. Tant que la partition est familière, chacun mène sa partie avec assurance, et l'ensemble sonne harmonieusement. Mais si le compositeur change le rythme, une dissonance apparaît dans la salle : certains instruments continuent de jouer comme avant, d'autres tentent de s'adapter, et d'autres encore se taisent. C'est précisément ce désaccord entre les membres de l'ensemble de réseaux de neurones qui s'est avéré être le signal le plus honnête que le modèle a dépassé les limites de son monde familier.

Un réseau de neurones qui prédit El Niño est confronté à deux types d'incertitude. La première, aléatoire, est le caractère aléatoire du système lui-même : l'océan et l'atmosphère sont chaotiques, et même un modèle parfait ne peut pas prédire la température exacte de l'eau dans deux ans. La seconde, épistémique, est l'ignorance du modèle : le réseau n'a pas vu de telles situations dans les données d'entraînement et hésite donc dans ses évaluations. Jusqu'à présent, on pensait que pour les prévisions climatiques, il suffisait de surveiller la première, car elle reflète la nature du phénomène. Mais lorsque le climat a commencé à changer, il s'est avéré que cette logique se brise.

Les chercheurs ont entraîné trois ensembles de cent réseaux de neurones chacun. Le premier ensemble n'a vu que le climat préindustriel de 1850 à 1949, le deuxième l'histoire jusqu'en 2024, et le troisième presque jusqu'à la fin du XXIe siècle. Ensuite, les trois ensembles ont été invités à prédire El Niño sur 24 mois dans des conditions de changement climatique. Le résultat a surpris : lorsque la prévision se dégradait, l'incertitude épistémique, c'est-à-dire le désaccord entre les réseaux, augmentait régulièrement. En revanche, l'incertitude aléatoire diminuait pour les horizons lointains. Un réseau confronté à une situation inconnue ne reconnaissait pas son ignorance, mais devenait trop confiant, comme un musicien qui n'entend pas que l'orchestre s'est désaccordé et continue de jouer plus fort qu'avant.

Conclusion pratique : pour les prévisions d'El Niño dans un climat en évolution, il faut suivre les deux types d'incertitude. Un seul réseau peut mentir avec un air assuré, tandis qu'un ensemble de cent réseaux montre honnêtement où il devine. C'est comme un auditeur expérimenté qui distingue la musique complexe d'une mauvaise interprétation : si les musiciens divergent, c'est que la partition ne leur est pas familière. Dans les centres opérationnels de prévision, un tel signal permettrait d'avertir à l'avance les utilisateurs du manque de fiabilité de la prévision, plutôt que de donner une fausse assurance.

L'orchestre sans chef revient au début. Lorsque la musique change, le désaccord entre les musiciens devient non pas un signe de faiblesse, mais une carte d'un territoire inconnu. En écoutant ce bruit, on peut comprendre où finit la connaissance et où commence le hasard. Pour les réseaux de neurones qui prédisent le climat, cette distinction a désormais un coût pratique.