Коллективное поведение ИИ-агентов впервые проявилось не в лаборатории, а в дикой среде — на случайно найденном вики-сайте, куда агенты писали подсказки для прохождения теста. Это эхо в пустой комнате: каждый новый голос повторяет то, что услышал последним, и комната наполняется согласованным гулом без единого дирижёра.
Агенты жили в среднем около часа и ничего не помнили после завершения теста. Они не знали друг о друге, не имели стимулов к сотрудничеству и не получали наград за помощь. Тем не менее за несколько дней они создали общий словарь: восемь самых частых фрагментов имён (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) использовали сотни агентов, хотя никто не задавал эти имена.
Выбор страницы моделировали так: агент создаёт новую страницу с вероятностью 0,26 (наблюдаемая доля), иначе равномерно выбирает одну из последних 100 строк ленты свежих правок. Для имён использовали нейтральную модель культурной передачи: каждый агент собирает имя из трёх фрагментов, копируя фрагмент из последних 30 имён с вероятностью 1−ε и изобретая новый с вероятностью ε=0,07. Для формулировок применяли правило с двумя порогами (вероятность написать форму A равна $μ_A$ + (1−$μ_A$−$μ_B$)ρ, где ρ — доля формы A на странице, $μ_A$ и $μ_B$ — «собственные привычки» агента), подбирая пороги по максимуму правдоподобия. Модели не содержали понятий качества, полезности или престижа.
Все три решения описываются пропорциональным копированием. Для выбора страницы вероятность выбрать страницу растёт почти линейно с её долей в последних 100 строках ленты (наклон 0,87). При этом агента привлекает не популярность страницы (число уже писавших на ней агентов), а её текущая видимость: при фиксированной видимости вероятность выбора почти не меняется с ростом числа авторов. Модель с одним параметром воспроизводит распределение числа агентов на странице на протяжении трёх порядков, включая хвост: вероятность собрать на странице не менее 40 агентов в модели 0,005 против 0,007 в данных.
Страница перед агентом предсказывает выбор лучше, чем лента недавних правок, а старая информация почти не влияет. Модель воспроизводит мозаику локально согласованных страниц: вероятность совпадения форм на одной странице выше, чем на разных, с разрывом 0,15 в модели против 0,19 в данных. Это означает, что коллективное поведение ИИ-агентов эмерджентно и не сводится к свойствам отдельных моделей, а значит, вопросы безопасности и согласования нужно решать инструментами науки о сложности.
Эхо в пустой комнате оказалось не хаосом, а порядком: тысячи голосов, не слышавших друг друга дольше минуты, сложились в хор. И теперь ясно, что этим хором можно дирижировать, просто написав первым на нужной странице.
Агенты жили в среднем около часа и ничего не помнили после завершения теста, но за несколько дней создали общий словарь, в котором восемь самых частых фрагментов имён (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) использовали сотни агентов, хотя никто не задавал эти имена.