Нейросеть, которая учится новому, похожа на путника в горной местности. Каждое усвоенное знание — это углубление в рельефе, куда путник скатывается и застревает. Чтобы выбраться и добраться до новой впадины, нужна энергия. Но по мере того как путник набирает опыт, стенки его ямы становятся всё круче, и каждый следующий подъём требует всё больше сил.
Физики описали этот процесс уравнениями, которые обычно применяют к броуновскому движению — дрожанию пыльцы в воде. Состояние нейросети представили как частицу, мечущуюся между двумя ямами на энергетическом ландшафте. Шум, который толкает частицу, играет роль «температуры обучения». Когда температура высокая, частица легко перескакивает из одной ямы в другую — сеть быстро осваивает новое. Но при низкой температуре частица сидит на месте — сеть упорно держится за старое.
Главная ловушка непрерывного обучения — так называемая «стабильность против пластичности». Если сеть слишком цепляется за прежние знания, она не может усвоить новое. Если слишком легко всё забывает — теряет накопленное. Авторы статьи показали, что популярный метод защиты от забывания (штраф за изменение важных связей) на самом деле возводит барьер, который растёт с каждой новой задачей. Высота барьера увеличивается линейно, а вот вероятность перепрыгнуть через него падает экспоненциально. Поэтому после десятков задач сеть окончательно застывает.
Это открытие даёт рецепт: чтобы нейросеть оставалась гибкой, нужно не просто наказывать её за забывание, а грамотно управлять «температурой» — шумом в процессе обучения. Внезапные впрыски высокой температуры в нужные моменты могут помочь сети перестраиваться без потери старых навыков.
Броуновское движение, на котором основана модель, впервые наблюдал ботаник Роберт Броун в 1827 году, разглядывая в микроскоп пыльцу в воде. Он думал, что видит «живую силу», а оказалось — удары невидимых молекул.