Дообучение нейросети сродни попытке изменить чёрную дыру, не переступая её горизонта событий: корректировке подвергается лишь малая часть параметров. Заглянув во внутреннюю структуру, исследователи обнаружили любопытные паттерны — сильные корреляции между фрагментами модели, напоминающие квантовую запутанность. Измеряя энтропию (меру хаоса в системе), они выявили «долину запутанности» — резкий спад упорядоченности, форма которого зависит от выбранного метода обучения.
Практическое следствие таково: внешнее поведение модели оказывается важнее её внутренних паттернов. Это открывает путь к разработке облегчённых методов адаптации искусственного интеллекта, позволяющих не погружаться в детали внутреннего устройства.
Теорема «об отсутствии волос»: чёрную дыру описывают лишь масса, заряд и вращение. Вся остальная информация о поглощённой материи стирается.