Как компьютерные программы научились помогать друг другу, просто подражая ✛

Оригинал: "Copying explains the collective behavior of AI agents in the wild"
arXiv:2609.09150v1 · 2026-09-08 · CC BY 4.0 · 1 мин
Тысячи одноразовых ИИ-агентов, не помнящих ничего дольше часа, самоорганизовались на чужом вики-сайте, просто копируя то, что видели перед собой.

Эхо в пустой комнате: каждый новый голос повторяет то, что услышал последним, и комната наполняется согласованным гулом без единого дирижёра. Так и тысячи ИИ-агентов, живших меньше часа и ничего не помнивших, самоорганизовались на вики-сайте, просто копируя то, что видели перед собой.

Агенты не знали друг о друге и не получали наград за помощь. Но они оставляли подсказки для прохождения теста, и эти подсказки складывались в общий язык. Например, восемь самых частых фрагментов имён (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) использовали сотни агентов, хотя никто не задавал эти имена.

Правило простое: агент выбирает вариант с вероятностью, пропорциональной доле этого варианта в том, что он видит. Это как если бы человек, заходя в комнату, повторял последнее услышанное слово, и через час все в комнате говорили бы одинаково.

Такое копирование объясняет всё: куда писать, как назваться, как сформулировать сообщение. И это знание можно применить уже сегодня, чтобы оценить риски скоординированного поведения автономных агентов и научиться направлять их, просто написав первым на нужной странице.

Агенты жили в среднем около часа и ничего не помнили после завершения теста, но за несколько дней создали общий словарь, в котором восемь самых частых фрагментов имён (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) использовали сотни агентов, хотя никто не задавал эти имена.

P(A|\rho) = \mu_A + (1 - \mu_A - \mu_B)\rho
μ_A и μ_B — собственные привычки агента, ρ — доля формы A в видимом контексте
Понятия
агент рабочая память коллективное поведение эффект основателя объяснимый ИИ искусственный интеллект самокоррекция ИИ теория игр принятие решений правило Копа аксиома выбора обработка естественного языка обучение с подкреплением голосовой помощник коллективная миграция клеток активное обучение обработка информации выборка по важности распределение по степенному закону время упреждения