L'entropie est une mesure du désordre. Deux jeux de cartes mélangés et réunis en un seul tas ne deviennent pas plus chaotiques que la somme de leurs désordres respectifs. C'est la règle de sous-additivité : le tout n'est pas plus chaotique que ses parties. Et si l'on ajoute un joker, il apporte plus de confusion à un jeu déjà mélangé qu'à un jeu ordonné – c'est la supermodularité, où le système réagit d'autant plus vivement à la nouveauté qu'il était déjà « étalé ».
Les mathématiciens ont prouvé que toutes les fonctions composées de « collines » lisses (courbes concaves) se comportent ainsi. L'entropie ordinaire, utilisée dans les ordinateurs, et ses variantes exotiques – toutes sont des sommes de telles collines. Par conséquent, elles obéissent automatiquement aux deux inégalités. Le plus étonnant, c'est que ces inégalités se sont révélées strictes. En mélangeant des systèmes non identiques, le désordre augmente toujours au-delà de la somme, comme si la fusion de deux jeux différents engendrait un chaos nouveau et imprévisible. Cette découverte, qui s'appuie sur les travaux de Ludwig Boltzmann et de John von Neumann, est importante pour la physique, la compression des données et même l'étude des trous noirs et des mystères du Big Bang.
L'entropie est née au XIXe siècle des tentatives d'améliorer les machines à vapeur, puis a fait son entrée en informatique comme mesure de la surprise d'un message.
Dans la nouvelle « La Dernière Question » d'Isaac Asimov, l'entropie menace l'existence même de l'Univers – et seul un superordinateur parvient à l'inverser.