Тайна беспорядка: почему энтропия живёт по строгим правилам ⚡ экспресс
Авторы установили два новых «предшествующих» соотношения мажоризации (способа сравнения распределений по равномерности), из которых следуют свойства супермодулярности и субаддитивности для любой суммы вогнутых функций на решётке мажоризации. Это позволило строго доказать, что энтропии Цаллиса (для всех α) и Реньи (при α > 1) обладают этими свойствами в теоретико-решёточном смысле, причём субаддитивность всегда строгая. Попутно подтверждены аналогичные результаты для энтропии Шеннона. Работа выявляет общую алгебраическую природу, стоящую за поведением мер неопределённости — подобно тому, как законы симметрии объясняют сохранение в физике.
Энтропия — это мера беспорядка. Две перетасованные колоды карт, ссыпанные в одну кучу, не станут более хаотичными, чем сумма их отдельных беспорядков. Это правило субаддитивности: целое не хаотичнее своих частей. А если добавить джокера, он внесёт больше сумятицы в уже перетасованную колоду, чем в упорядоченную — это супермодулярность, когда система тем острее реагирует на новое, чем «размазаннее» она уже была.
Математики доказали, что так ведут себя все функции, склеенные из плавно выгнутых «горок» (вогнутых кривых). Обычная энтропия, которую используют в компьютерах, и её экзотические варианты — всё это суммы таких горок. Поэтому они автоматически подчиняются обоим неравенствам. Самое поразительное — неравенства оказались строгими. Смешивая любые неидентичные системы, беспорядок всегда возрастает сверх суммы, словно при слиянии двух разных колод рождается непредсказуемый новый хаос. Это открытие, опирающееся на труды Людвига Больцмана и Джона фон Неймана, важно для физики, сжатия данных и даже изучения чёрных дыр и загадок Большого взрыва.
🎯 Энтропия родилась в XIX веке из попыток улучшить паровые машины, а позже проникла в информатику как мера неожиданности сообщения.
🎬 В рассказе «Последний вопрос» Айзека Азимова энтропия угрожает самому существованию Вселенной — и только суперкомпьютеру удаётся обратить её вспять.