Ce travail se situe à l'intersection de la thermodynamique stochastique et de la théorie de l'information. À proximité se trouvent des études qui abordent l'apprentissage des réseaux de neurones à travers le prisme du modèle d'Ising, l'entropie des systèmes climatiques, la synchronisation des gènes avec le chaos et l'apprentissage des robots dans des écoulements turbulents. Ces travaux partagent un intérêt pour la manière dont les systèmes traitent l'information dans des conditions hors d'équilibre, mais la plupart se concentrent sur des régimes stationnaires ou des statistiques figées. Cet article se distingue par l'examen explicite d'un environnement continuellement non stationnaire, où les paramètres dérivent dans le temps, et par l'analyse de caractéristiques transitoires plutôt qu'établies.
Un modèle stochastique minimal à trois variables couplées est construit : la position de la particule, le paramètre de contrôle adaptatif et le signal externe de l'environnement. La dynamique est décrite par des équations de Langevin sur-amorties avec des bruits gaussiens indépendants. Le potentiel a la forme d'un double puits, dont l'asymétrie dépend du paramètre de contrôle. L'environnement est modélisé comme un processus d'Ornstein-Uhlenbeck à moyenne en dérive lente, ce qui crée la non-stationnarité. Pour l'analyse, on utilise l'énergétique stochastique et le formalisme de Fokker-Planck. Des expressions sont dérivées pour la production d'entropie, le taux d'information mutuelle et l'efficacité instantanée. Les simulations ont été menées par la méthode d'Euler-Maruyama avec un pas de 0.001, une moyenne sur 30 réalisations de 100 000 pas chacune, avec accélération sur Numba.
On observe des pics transitoires marqués d'efficacité instantanée d'apprentissage lorsque l'environnement change rapidement et que le paramètre adaptatif doit se réajuster. À ces moments, la production d'entropie et le taux d'acquisition d'information augmentent, mais les pics d'efficacité ne coïncident pas exactement avec les pics de dissipation. Cela signifie que la dissipation maximale n'équivaut pas à l'apprentissage maximal ; c'est la synchronisation temporelle de la réponse du système avec les changements de l'environnement qui importe. En moyennant sur l'ensemble, les pics s'aplatissent, l'efficacité moyenne s'atténue jusqu'à zéro, ce qui confirme le caractère purement transitoire de la conversion optimale de l'information en énergie. On a trouvé numériquement une dépendance empirique de l'efficacité maximale aux paramètres : elle décroît comme la racine carrée du produit de la vitesse d'adaptation et du temps de dérive de l'environnement.
Contrairement aux travaux voisins, qui analysent des régimes stationnaires ou quasi stationnaires, on montre ici pour la première fois explicitement que l'efficacité thermodynamique maximale de l'apprentissage est atteinte lors de moments transitoires, et non dans un état stable. Cela déplace l'attention des caractéristiques moyennées vers l'analyse des trajectoires et souligne l'importance de la corrélation temporelle entre la dynamique interne du système et le signal externe. Cette approche peut être étendue aux réseaux sensoriels biologiques et aux algorithmes adaptatifs, où les réactions rapides aux changements sont essentielles.
Le sujet peut se développer vers l'étude d'environnements plus complexes à plusieurs échelles de temps, ainsi que de systèmes à rétroaction, où le paramètre adaptatif influence l'environnement. Il serait intéressant d'étudier comment les pics transitoires d'efficacité dépendent de l'architecture du mécanisme adaptatif et s'il est possible de les prédire à l'avance. Une application à l'apprentissage des réseaux de neurones en présence de dérive des données est également envisageable.
Les résultats peuvent influencer la conception de systèmes adaptatifs économes en énergie, par exemple des capteurs ou des algorithmes d'apprentissage en ligne, où il importe de maximiser l'information par unité d'énergie dépensée aux moments critiques.
L'étape suivante pourrait être une explication analytique de la dépendance empirique de l'efficacité maximale aux paramètres et la vérification de l'universalité du scaling trouvé sur une plage plus large. Il est également important d'étudier le rôle du bruit et du temps d'observation fini dans les systèmes réels.
Dans le domaine de la thermodynamique stochastique, la question reste ouverte de savoir comment définir et mesurer l'efficacité du traitement de l'information dans des systèmes à mémoire et à corrélations complexes. Ce travail y contribue en montrant que les régimes transitoires peuvent être déterminants, et propose une métrique concrète pour les analyser.
Dans le modèle, l'efficacité peut dépasser l'unité ou être négative à certains moments, ce qui ne viole pas le deuxième principe de la thermodynamique, mais reflète un décalage temporaire entre la dissipation et l'acquisition d'information.