L'entropie est une mesure du désordre. Deux jeux de cartes mélangés, réunis en un seul tas, ne deviennent pas plus chaotiques que la somme de leurs désordres respectifs. C'est la règle de sous-additivité : le tout n'est pas plus chaotique que ses parties. Et si l'on ajoute un joker, il apporte plus de confusion à un jeu déjà mélangé qu'à un jeu ordonné — c'est la supermodularité, où le système réagit d'autant plus vivement à la nouveauté qu'il est déjà « étalé ».
Les mathématiciens ont prouvé que toutes les fonctions formées de « collines » lisses (courbes concaves) se comportent ainsi. L'entropie classique, utilisée dans les ordinateurs, et ses variantes exotiques — tout cela est une somme de telles collines. Elles obéissent donc automatiquement aux deux inégalités. Le plus surprenant, c'est que ces inégalités se sont révélées strictes. En mélangeant deux systèmes non identiques, le désordre augmente toujours au-delà de la somme, comme si la fusion de deux jeux différents engendrait un chaos nouveau et imprévisible. Cette découverte, qui s'appuie sur les travaux de Ludwig Boltzmann et de John von Neumann, est importante pour la physique, la compression des données et même l'étude des trous noirs et des mystères du Big Bang.
L'entropie est née au XIXe siècle des tentatives d'améliorer les machines à vapeur, puis a fait irruption en informatique comme mesure de la surprise d'un message.
Dans la nouvelle « La Dernière Question » d'Isaac Asimov, l'entropie menace l'existence même de l'Univers — et seul un superordinateur parvient à l'inverser.