Математики обнаружили скрытые соотношения, которые связывают разные способы измерения неопределённости (энтропии). Оказалось, что за их свойствами стоит общий принцип — как невидимый каркас, делающий конструкцию устойчивой. Можно ли на таком каркасе построить новые методы анализа сложных систем?
Энтропия — это мера беспорядка. Две перетасованные колоды карт, ссыпанные в одну кучу, не станут более хаотичными, чем сумма их отдельных беспорядков. Это правило субаддитивности: целое не хаотичнее своих частей. А если добавить джокера, он внесёт больше сумятицы в уже перетасованную колоду, чем в упорядоченную — это супермодулярность, когда система тем острее реагирует на новое, чем «размазаннее» она уже была.
Математики доказали, что так ведут себя все функции, склеенные из плавно выгнутых «горок» (вогнутых кривых). Обычная энтропия, которую используют в компьютерах, и её экзотические варианты — всё это суммы таких горок. Поэтому они автоматически подчиняются обоим неравенствам. Самое поразительное — неравенства оказались строгими. Смешивая любые неидентичные системы, беспорядок всегда возрастает сверх суммы, словно при слиянии двух разных колод рождается непредсказуемый новый хаос. Это открытие, опирающееся на труды Людвига Больцмана и Джона фон Неймана, важно для физики, сжатия данных и даже изучения чёрных дыр и загадок Большого взрыва.
🎯 Энтропия родилась в XIX веке из попыток улучшить паровые машины, а позже проникла в информатику как мера неожиданности сообщения.
🎬 В рассказе «Последний вопрос» Айзека Азимова энтропия угрожает самому существованию Вселенной — и только суперкомпьютеру удаётся обратить её вспять.