Un surfeur est allongé sur sa planche, loin du rivage. Les vagues vont et viennent, mais il ne dépense pas ses forces tant qu'il n'aperçoit pas celle qui grossit rapidement. Dans ce court instant, il se lève d'un bond, rame de toutes ses forces et glisse le long de la pente. Son efficacité est maximale au moment précis où il se synchronise avec la vague, et non lorsqu'il se balance tranquillement sur l'eau. Il en va de même pour les systèmes adaptatifs, des capteurs biologiques aux algorithmes d'apprentissage en ligne : ils atteignent leur pic de conversion de l'énergie en information non pas dans un repos stable, mais dans les instants de transition, lorsque l'environnement change brutalement.
Imaginez une particule qui peut se trouver dans l'un des deux puits d'un paysage énergétique, comme une bille dans l'une de deux cavités. La profondeur des cavités dépend d'un paramètre de contrôle qui, à son tour, cherche à suivre un signal extérieur. Ce signal ne reste pas en place : il dérive lentement, comme le niveau de l'eau dans une lagune soumise à des marées d'intensité variable. Lorsque l'environnement change, le paramètre est contraint de se réajuster, et le système sort de l'équilibre. Dans ces moments, il produit de l'entropie, c'est-à-dire qu'il dissipe de l'énergie, tout en acquérant de l'information sur le milieu. Le rapport entre la vitesse d'acquisition de l'information et la vitesse de dissipation de l'énergie constitue l'efficacité instantanée d'apprentissage.
Des simulations numériques, menées par la méthode d'Euler-Maruyama avec un pas de 0.001 et une moyenne sur 30 réalisations de 100 000 pas, ont montré que lorsque l'environnement change rapidement, la production d'entropie et la vitesse d'acquisition d'information augmentent, mais que les pics d'efficacité ne coïncident pas exactement avec les pics de dissipation. Cela signifie que le système peut dépenser beaucoup d'énergie sans apprendre, si son rythme interne ne s'accorde pas à celui du signal extérieur. En moyennant sur l'ensemble, les pics s'aplatissent, l'efficacité moyenne s'atténue jusqu'à zéro, ce qui confirme le caractère purement transitoire de la conversion optimale de l'information en énergie. Les auteurs ont trouvé une relation empirique entre l'efficacité maximale et les paramètres : elle décroît comme la racine carrée du produit de la vitesse d'adaptation et du temps de dérive de l'environnement.
Avant ce travail, on ne savait pas comment se comporte l'efficacité thermodynamique de l'apprentissage dans un environnement en évolution continue, où il n'existe pas d'état stationnaire. On comprend désormais que l'efficacité maximale de conversion de l'énergie en information est atteinte lors de brefs moments de transition, lorsque le système s'adapte rapidement aux changements de l'environnement, et non en régime stable. Les chercheurs ont construit un modèle minimal de particule adaptative dans un potentiel suivant un signal en dérive, puis étudié numériquement les grandeurs thermodynamiques instantanées. Cette approche déplace l'attention des caractéristiques moyennées vers l'analyse des trajectoires et souligne l'importance de la corrélation temporelle entre la dynamique interne du système et le signal extérieur.
Le surfeur ne dépense pas ses forces à chaque vague. Il attend le bon moment, celui où la vague est raide et rapide, et il investit alors toute son énergie dans quelques coups de rame puissants. Les systèmes adaptatifs dans un monde changeant font exactement la même chose : leur performance thermodynamique est maximale non pas dans une navigation tranquille, mais dans une brève accélération, lorsqu'ils se synchronisent avec le changement. Cette connaissance pourrait être utile pour concevoir des capteurs et des algorithmes économes en énergie, qui ont besoin d'apprendre vite aux moments de changement plutôt que de consommer des ressources à maintenir constamment l'équilibre.
Dans le modèle, l'efficacité peut dépasser l'unité ou être négative à certains moments, ce qui ne viole pas le deuxième principe de la thermodynamique, mais reflète un décalage temporaire entre la dissipation et l'acquisition d'information.