Comprimer le chaos en un seul chiffre
Essayez de faire une valise pour un voyage sans savoir à l'avance ce qui vous sera utile. Si les vêtements sont nombreux et variés, vous passerez du temps à tout réorganiser, sans jamais savoir à quel point le tout est bien rangé. C'est à peu près ainsi que les physiciens ont longtemps considéré l'entropie, cette mesure du désordre, dans des systèmes qui ne se stabilisent jamais : essaims de bactéries, matériaux granulaires, nuées de particules actives. Pour les systèmes calmes, à l'équilibre, les recettes sont connues depuis longtemps : chauffez, mesurez la chaleur, comptez. Mais la vie n'attend pas l'équilibre, et là, les vieux outils sont dépassés.
Le principal obstacle, c'est le fléau de la dimension. Pour estimer l'entropie d'un système de centaines de particules, il faudrait remplir de chiffres toutes leurs positions et vitesses possibles. Le nombre de ces combinaisons croît comme une boule de neige : pour un système à cent dimensions, il faudrait plus d'échantillons qu'il n'y a d'atomes dans l'Univers. Les chercheurs ont donc contourné le problème. Au lieu de parcourir tous les états, ils se demandent : que savons-nous déjà du système ? Les corrélations par paires, c'est-à-dire à quel point les particules aiment être proches ou éloignées les unes des autres. La vitesse à laquelle elles se dispersent. Ou même la facilité avec laquelle un fichier de données se comprime sur un ordinateur. Un bon archiveur, comme zip, repère les motifs répétitifs, et plus le fichier compressé est court, moins il y a de désordre dans les données d'origine. Ce n'est pas une astuce, mais une conséquence directe de la théorie de l'information : l'entropie est précisément la limite de compression.
Ces méthodes ne se contentent pas de fournir un nombre. Elles permettent de plonger dans le mécanisme. Dans un empilement bloqué de gouttes de deux sortes, les frontières de corrélation ont montré quel type de liens gouverne l'embouteillage. Dans le modèle de Vicsek, où les particules ajustent leur direction sur celle de leurs voisines, l'analyse entropique a révélé que les degrés de liberté d'orientation gèlent avant ceux de position. Auparavant, cette distinction était invisible : le paramètre d'ordre ne montrait qu'une transition globale, tandis que l'entropie la décomposait en détail.
Bien sûr, chaque approche a ses limites. Les bornes supérieures issues des corrélations peuvent être loin de l'entropie véritable si le système comporte des corrélations à longue portée que les interactions par paires ne captent pas. L'apprentissage automatique exige un réglage minutieux du réseau de neurones. Mais même une estimation grossière vaut mieux que rien : elle permet de comparer des états, de repérer des transitions et de construire des diagrammes de phase là où régnait auparavant un aveuglement total.
Aujourd'hui, ces méthodes sont déjà à l'œuvre dans les laboratoires : analyse de bactéries en essaim, de milieux granulaires, de colloïdes actifs. Demain, elles feront le saut vers le monde quantique, où l'entropie de von Neumann attend ses expérimentateurs. Au lieu d'une valise au contenu inconnu, nous obtenons une étiquette de bagage avec le poids exact et la liste des affaires, et nous pouvons enfin comprendre à quel point le monde est bien rangé.
L'entropie d'une distribution continue peut être négative, contrairement au cas discret. On le voit sur l'exemple d'un pic étroit : plus le pic est étroit, plus l'entropie est petite, et à la limite elle tend vers moins l'infini.