Уборка в комнате, где дети играют, кажется бесконечной: только разложил игрушки, как они снова разбросаны. Так и с беспорядком в живых системах — стаях бактерий, сыпучем песке, роях светлячков. Обычно беспорядок (энтропию) меряют, когда всё замерло и успокоилось. Но жизнь не замирает, и старые способы здесь не работают.
Чтобы оценить беспорядок в такой системе, нужно перебрать все возможные положения и скорости частиц. Для сотни частиц это число с сотней нулей. Никакой компьютер не справится. Поэтому учёные придумали обходные пути. Один из них — сжатие данных. Если записать все положения частиц в файл и сжать его архиватором, длина сжатого файла покажет, сколько в данных повторений. Чем короче файл, тем меньше беспорядка. Это как с уборкой: если все игрушки в одной коробке, описать комнату можно коротко: «всё в коробке». Если разбросаны — описание будет длинным.
Другой путь — смотреть, как частицы разбредаются. Если они быстро расходятся, беспорядок растёт. Если держатся вместе, беспорядок меньше. Эти методы уже помогли найти новые переходы в стаях бактерий и застрявших каплях. Раньше их не замечали, потому что смотрели на общую картину, а не на детали беспорядка.
Энтропия непрерывного распределения может быть отрицательной, в отличие от дискретного случая. Это видно на примере узкого пика: чем уже пик, тем меньше энтропия, и в пределе она уходит в минус бесконечность.