Крошечная пылинка в насыщенном растворе за секунды превращается в кристалл с чёткими гранями. Стоящие рядом частицы остаются никем не замеченными. Такой же процесс недавно увидели в группе языковых агентов (автономных компьютерных программ на основе языковых моделей).

Эксперимент был простым: 100 агентов с разными ролями — «Объяснитель», «Проверяющий» — свободно выбирали, с кем поговорить для решения задачи. Каждый принимал решение, оценивая партнёра с помощью виртуального рукопожатия — это как если бы вы решали, насколько важен для вас собеседник, и давали ему баллы. Постепенно случайные встречи (здесь — случайные взаимодействия) выстраивались в сеть предпочтений, и в ней более заметные агенты притягивали к себе всё больше связей. Это и есть преимущественное присоединение — эффект, при котором популярные становятся ещё популярнее.

Почему так происходит? Исследователи описали усреднённую динамику сети с помощью математических уравнений и обнаружили, что система неизбежно приходит к равновесию, но это равновесие часто оказывается несправедливым. Как кристалл, выросший в насыщенном растворе, уже не изменит свою форму, так и сеть агентов затвердевает в определённой конфигурации. Изменить её потом трудно. Значит, при создании коллективного искусственного интеллекта мало проверять, насколько правильно он отвечает. Нужно следить за тем, кто с кем говорит, не оказывается ли умный агент на обочине.

Учёные теперь могут предсказывать такие перекосы, зная всего лишь, как пары агентов общаются друг с другом. Это как химики, научившиеся добавлять примеси в раствор, чтобы менять форму кристалла. Возможно, скоро появятся «регуляторы кристаллизации» для ИИ-сетей — они будут ослаблять нежелательное неравенство, не разрушая общую работу. Так самые яркие грани коллективного разума не погаснут в тени случайных обстоятельств.