Почему учиться надо в момент перемен ✎

Оригинал: "Transient Thermodynamic Efficiency of Adaptive Inference in Continuously Nonstationary Environments"
· Aditya Gupta
arXiv:2603.19324 · 2026-03-17 · CC BY-NC-SA 4.0 · собственный разбор · 2 мин
Короткие всплески эффективности во время быстрых изменений среды, а не стационарные состояния, определяют, насколько хорошо система преобразует энергию в информацию.

Сёрфер лежит на доске вдали от берега. Волны приходят и уходят, но он не тратит силы, пока не видит ту самую, которая быстро нарастает. В этот короткий миг он вскакивает, гребёт изо всех сил и скользит по склону. Его эффективность максимальна именно в момент синхронизации с волной, а не когда он спокойно покачивается на воде. Так же и адаптивные системы, от биологических сенсоров до алгоритмов онлайн-обучения, достигают пика преобразования энергии в информацию не в устойчивом покое, а в переходные мгновения, когда среда резко меняется.

Представьте частицу, которая может находиться в одной из двух ям энергетического ландшафта, как шарик в одной из двух лунок. Глубина лунок зависит от управляющего параметра, который, в свою очередь, пытается следовать за внешним сигналом. Сигнал этот не стоит на месте, а медленно дрейфует, как уровень воды в лагуне, куда приходят приливы разной силы. Когда среда меняется, параметр вынужден перестраиваться, и система выходит из равновесия. В такие моменты она производит энтропию, то есть рассеивает энергию, и одновременно получает информацию о среде. Отношение скорости получения информации к скорости рассеяния энергии и есть мгновенная эффективность обучения.

Ключевой результат: пики эффективности возникают именно в переходные периоды быстрых изменений среды, а не в стационарных средних. Максимальное рассеяние энергии не совпадает с максимальным обучением, важна временная синхронизация отклика системы с изменениями среды.

Численные симуляции показали: когда среда быстро меняется, система тратит больше энергии и получает больше информации, но пики эффективности не совпадают точно с пиками рассеяния энергии. Это означает, что система может тратить много энергии, но не учиться, если её внутренний ритм не совпал с ритмом внешнего сигнала. При усреднении по многим запускам пики сглаживаются, средняя эффективность затухает до нуля, что подтверждает чисто переходный характер оптимального преобразования информации в энергию. Найдена эмпирическая зависимость максимальной эффективности от параметров: она убывает как корень из произведения скорости адаптации и времени дрейфа среды.

Сёрфер не тратит силы на каждую волну подряд. Он ждёт нужный момент, когда волна крутая и быстрая, и тогда вкладывает всю энергию в несколько мощных гребков. Адаптивные системы в меняющемся мире делают то же самое: их термодинамическая производительность максимальна не в спокойном плавании, а в коротком рывке, когда они синхронизируются с переменой. Это знание может пригодиться при проектировании энергоэффективных сенсоров и алгоритмов, которым важно быстро обучаться в моменты изменений, а не тратить ресурсы на постоянное поддержание равновесия.

В модели эффективность может превышать единицу или быть отрицательной в отдельные моменты, что не нарушает второй закон термодинамики, а отражает временное рассогласование между диссипацией и получением информации.

\eta(t) = \frac{dI/dt}{\dot{S}_{\text{tot}}(t)}
Отношение скорости получения информации к скорости производства энтропии
\dot{S}_{\text{tot}}(t) = \int \left( \frac{J_x^2}{D_x p} + \frac{J_\theta^2}{D_\theta p} \right) dx\, d\theta\, dE
Суммарная необратимая диссипация от движения частицы и адаптации параметра
\frac{dI}{dt} = \int \left( \frac{J_\theta}{p(\theta,E)} - \frac{J_\theta}{p(\theta)} - \frac{J_E}{p(E)} \right) \partial_\theta p(\theta,E) \, d\theta\, dE
Скорость изменения взаимной информации между параметром и средой
Понятия
информационная термодинамика обучение с подкреплением эмерджентное коллективное обучение уравнение Больцмана эффективность неравновесное состояние эффективная температура неадиабатический переход второй закон термодинамики энергоэффективность процесс Орнштейна–Уленбека принцип максимальной энтропии энтальпия переобучение тепловое равновесие термодинамическая устойчивость экологическая устойчивость термализация моделирование эмерджентной сложности принцип Болдуина