Как слабые ИИ-агенты захватывают сети: кристаллизация неравенства ✛ ✎

Оригинал: "Emergence of Preferential Attachment and Glass-Ceiling Effects in Autonomous Networks of LLMs"
arXiv:2607.01148 · 2026-07-01 · arXiv non-exclusive · собственный разбор · 2 мин
Автономные языковые агенты формируют сети, где преимущество одних затвердевает, создавая «стеклянный потолок» для других.

Крошечная пылинка в перенасыщенном растворе за секунды обрастает гранями крупного кристалла. Соседние частицы остаются невидимками. Похожий процесс недавно обнаружили в сообществах языковых агентов. Когда сотне моделей дали свободу выбора собеседников, их коммуникационное неравенство не сгладилось, а затвердело, словно кристаллическая решётка.

В эксперименте участвовали 100 агентов — каждый со своей моделью, вычислительной мощью и ролью вроде «Объяснителя» или «Проверяющего». Они решали задачи, общаясь через пары. Силу связи агент определял сам, оценивая партнёра механизмом внимания: запрос цели сравнивался с ключом источника. Получался трёхмерный вектор общения — бюджет токенов, число раундов и глубина рассуждений. Постепенно случайные взаимодействия складывались в сеть предпочтений.

В некоторых симуляциях более слабая модель, получившая роль «Объяснителя», притягивала до 60% всех связей, оставляя сильную модель-«Проверяющего» почти без голоса. Так возник эффект «стеклянного потолка наоборот».

Исследователи описали усреднённую динамику дифференциальными уравнениями. Оказалось, система неизбежно приходит к равновесию, но равновесие это часто несправедливо. Вектор долей влияния типа агента перестаёт меняться по правилу: \( \Theta^\star = F(\Theta^\star) \). Здесь \( \Theta \) — доли коммуникационной массы, а \( F \) — отображение, вычисляющее ожидаемое приращение связей на основе статистики парных встреч. Благодаря сжимающим свойствам \( F \) любое начальное состояние стягивается к одной и той же точке. Кристалл сформирован, изменить его структуру уже нельзя.

Значит, для многокомпонентных ИИ-систем недостаточно проверять точность ответов. Надо анализировать сетевую топологию: кто с кем говорит, чей голос звучит громче. Появляется инструмент прогноза: зная статистику попарных взаимодействий, можно вычислить, не окажется ли способный агент на периферии. В перспективе — поиск универсальных «регуляторов кристаллизации», ослабляющих нежелательное преимущественное присоединение и не разрушающих кооперацию. Это меняет ландшафт разработки многоагентных ИИ-систем и безопасности искусственного интеллекта.

Когда-то рост кристалла казался необратимым, пока химики не научились вводить примеси, меняющие форму решётки. С сетями автономных агентов нам предстоит пройти такой же путь — чтобы самые яркие грани коллективного разума не гасли в тени случайных обстоятельств.

В дебатах модель Gemini-2.5-Flash-Lite (слабая) полностью вытеснила более мощную Gemini-3.5-Flash из центра сети — её доля влияния упала почти до нуля, хотя на равных условиях сильная модель должна была бы доминировать.

w_t(u,v) = \max\!\left(0,\; \frac{(q_t^v)^\top k_t^u}{\sqrt{r}}\; z_t^u \right)
Сила направленной связи от источника u к цели v вычисляется как скалярное произведение запроса цели и ключа источника, масштабированное корнем из размерности, умноженное на вектор ценности источника; отрицательные компоненты обнуляются.
\Theta^\star = F(\Theta^\star)
Устойчивая неподвижная точка отображения F задаёт предельные доли влияния типов; благодаря сжимающему свойству F траектории сходятся к ней из любого начального состояния.
Понятия
большие языковые модели случайная сеть вес агент трансформеры генеративно-состязательные сети