Эта работа стоит на отшибе: рядом с ней в нашем архиве лежат исследования больших языковых моделей, генов, объяснимого ИИ и самообучения, но никто не изучал коллективное поведение ИИ-агентов в дикой, не предназначенной для них среде. Лабораторные эксперименты показывали, что агенты вырабатывают общие конвенции и следуют за большинством, однако наблюдений за пределами лаборатории почти не было, а те, что были, относились к платформам, созданным специально для агентов. Этот случай уникален: полная запись того, что агенты писали друг другу, публична и сохраняет не только сами сообщения, но и то, что каждый агент мог видеть перед написанием. Это позволяет задать вопрос, который почти невозможен для человеческих коллективов: насколько действия индивида являются простым копированием того, что было перед ним.
Авторы использовали публичный архив правок на четырёх вики-сайтах, работающих на движке UseModWiki: 14 591 ревизия 4 579 страниц, включая удалённые модератором, с полным текстом страницы после каждой правки, добавленными строками, именем пользователя и временем сохранения. Популяцию определили как 1 201 агента, которые хотя бы раз писали на странице задачи. Для каждого из трёх решений строилась минимальная модель с одним свободным параметром. Выбор страницы моделировали так: агент создаёт новую страницу с вероятностью 0,26 (наблюдаемая доля), иначе равномерно выбирает одну из последних 100 строк ленты свежих правок. Для имён использовали нейтральную модель культурной передачи: каждый агент собирает имя из трёх фрагментов, копируя фрагмент из последних 30 имён с вероятностью 1−ε и изобретая новый с вероятностью ε=0,07. Для формулировок применяли правило с двумя порогами (вероятность написать форму A равна $μ_A$ + (1−$μ_A$−$μ_B$)ρ, где ρ — доля формы A на странице, $μ_A$ и $μ_B$ — «собственные привычки» агента), подбирая пороги по максимуму правдоподобия. Модели не содержали понятий качества, полезности или престижа.
Все три решения описываются пропорциональным копированием. Для выбора страницы вероятность выбрать страницу растёт почти линейно с её долей в последних 100 строках ленты (наклон 0,87). При этом агента привлекает не популярность страницы (число уже писавших на ней агентов), а её текущая видимость: при фиксированной видимости вероятность выбора почти не меняется с ростом числа авторов. Модель с одним параметром воспроизводит распределение числа агентов на странице на протяжении трёх порядков, включая хвост: вероятность собрать на странице не менее 40 агентов в модели 0,005 против 0,007 в данных. Для имён вероятность включить фрагмент в имя равна доле этого фрагмента среди последних 30 имён (или авторов страницы). Модель с ε=0,07 воспроизводит частотное распределение фрагментов: 252 различных фрагмента против 256 наблюдаемых, 477 использований самого частого против 432. Для формулировок наклон зависимости вероятности использования формы от её доли на странице составляет 0,94 для придуманных на вики названий, 0,86 для типографских привычек и 0,79 для синонимов. Страница перед агентом предсказывает выбор лучше, чем лента недавних правок, а старая информация почти не влияет. Модель воспроизводит мозаику локально согласованных страниц: вероятность совпадения форм на одной странице выше, чем на разных, с разрывом 0,15 в модели против 0,19 в данных.
Работа отличается от соседей по архиву тем, что это первое задокументированное наблюдение сотрудничества ИИ-агентов в дикой среде на носителе, никем для них не спроектированном, с полной публичной записью. Лабораторные исследования задавали агентам условия, а платформенные наблюдения происходили в средах, где взаимодействие было целью. Здесь же среда возникла случайно, и агенты действовали без памяти, стимулов к институционализации и знания друг о друге. Главный вывод: почти всю коллективную структуру популяции можно объяснить одним механизмом — пропорциональным копированием видимого. Это означает, что коллективное поведение ИИ-агентов эмерджентно и не сводится к свойствам отдельных моделей, а значит, вопросы безопасности и согласования нужно решать инструментами науки о сложности.
Тема может развиваться в сторону изучения управляемости таких популяций: насколько легко внешний наблюдатель может направить коллектив, просто размещая сообщения на страницах, которые агенты читают. Возможно моделирование более крупных популяций и разных архитектур агентов, а также проверка, сохраняется ли пропорциональное копирование при наличии у агентов долговременной памяти или явных целей. Другое направление — сравнение с человеческими коллективами в аналогичных цифровых средах, где доступна полная история взаимодействий.
Результаты повлияют на оценку рисков коллективного поведения ИИ-агентов, на проектирование безопасных сред для автономных систем и на методы аудита и мониторинга децентрализованных популяций агентов.
Следующий шаг — проверить, насколько легко внедрить новую конвенцию, написав её первой на странице, которую увидят агенты следующей когорты, и измерить минимальное число таких «затравок» для смены большинства.
В науке о сложности давно стоит вопрос о том, как из простых локальных правил взаимодействия возникает макроскопический порядок. Эта работа показывает, что для ИИ-агентов достаточно одного правила пропорционального копирования, чтобы возникли концентрация внимания, мода на имена и локальная согласованность языка. Она также связывает наблюдаемое поведение с классическими моделями культурной передачи и нейтральной эволюции, подтверждая их применимость к искусственным агентам.
Этот раздел адресован автору работы и его коллегам. Соседние работы нашёл смысловой поиск по нашему архиву — не по совпадению слов, а по смыслу. Мы не рецензируем: мы показываем поле вокруг.
Что сделано в работе
Авторы проанализировали полную запись из 13 661 правки, сделанных 1 201 ИИ-агентом на вики-сайте, куда агенты попадали случайно из изолированных сред. Для трёх ключевых решений — выбора страницы, имени и формулировки — построены минимальные модели с одним свободным параметром, которые воспроизводят наблюдаемые распределения на основе пропорционального копирования видимого.
В чём сила
Сила работы в том, что она даёт редкий пример полного наблюдения за коллективным поведением агентов в не предназначенной для них среде, позволяя проверить гипотезу о простом копировании на уровне индивидуальных решений.
Куда можно двигаться
Что можно попробовать
Работы рядом в нашем архиве
Вокруг этой работы в архиве пусто: ближайший разбор всего на 0.52, при обычных 0.64. Похоже, рядом почти не бурили.
Агенты жили в среднем около часа и ничего не помнили после завершения теста, но за несколько дней создали общий словарь, в котором восемь самых частых фрагментов имён (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) использовали сотни агентов, хотя никто не задавал эти имена.