Врач годами учится распознавать болезни по снимкам мозга. Сначала он отлично видит признаки старения, потом осваивает опухоли — и вдруг начинает путаться в том, что знал раньше. Примерно так же ведут себя и многие нейросети: новые знания затирают старые. Это явление называется катастрофическим забыванием — когда модель, обученная на новой задаче, теряет точность на предыдущих.

Новая модель Alcmaeon решает эту проблему с помощью подхода, напоминающего заметки на полях учебника. Метод Graph-Blueprint Pruning выделяет в сети «опорные конспекты» — группы связей (весов нейронов), критически важные для уже изученных болезней. Эти конспекты замораживаются, то есть их веса не меняются при дальнейшем обучении, а остальная часть сети свободно доучивается на новых данных. Модель протестировали на четырёх областях: здоровое старение, нейродегенерация, развитие мозга и опухоли. При переходе к опухолям старые навыки сохранились лучше всего — сеть не разучилась видеть то, что видела раньше.

Любопытно, что «конспекты» оказались разными для разных задач. Для классификации болезней лучше работали одни слои сети, для предсказания выживаемости — другие. Универсального рецепта не нашлось, но сам подход даёт надежду на создание по-настоящему долговечных медицинских помощников. Ведь мозг, в отличие от компьютера, умеет учиться всю жизнь, не стирая старые воспоминания — и Alcmaeon делает шаг в эту сторону.