Ranger une chambre où jouent des enfants semble une tâche sans fin : à peine a-t-on rangé les jouets qu'ils sont déjà de nouveau éparpillés. Il en va de même du désordre dans les systèmes vivants : essaims de bactéries, sable qui s'écoule, nuées de lucioles. D'ordinaire, on mesure le désordre (l'entropie) quand tout est figé et apaisé. Mais la vie ne se fige pas, et les vieilles méthodes ne fonctionnent pas ici.
Pour évaluer le désordre dans un tel système, il faudrait passer en revue toutes les positions et toutes les vitesses possibles des particules. Pour une centaine de particules, cela donne un nombre avec une centaine de zéros. Aucun ordinateur n'y arriverait. Les scientifiques ont donc imaginé des voies détournées. L'une d'elles consiste à compresser les données. Si l'on enregistre toutes les positions des particules dans un fichier et qu'on le compresse avec un logiciel d'archivage, la taille du fichier compressé indique combien de répétitions contiennent les données. Plus le fichier est court, plus le désordre est faible. C'est comme pour le rangement : si tous les jouets sont dans une seule boîte, on peut décrire la chambre en peu de mots : « tout est dans la boîte ». S'ils sont éparpillés, la description sera longue.
Une autre voie consiste à regarder comment les particules se dispersent. Si elles s'éloignent rapidement les unes des autres, le désordre augmente. Si elles restent ensemble, le désordre est plus faible. Ces méthodes ont déjà permis de découvrir de nouvelles transitions dans des essaims de bactéries et des gouttes bloquées. On ne les remarquait pas auparavant parce qu'on regardait le tableau d'ensemble, et non les détails du désordre.
L'entropie d'une distribution continue peut être négative, contrairement au cas discret. On le voit sur l'exemple d'un pic étroit : plus le pic est étroit, plus l'entropie est petite, et à la limite elle tend vers moins l'infini.