Le comportement collectif des agents IA s'est manifesté pour la première fois non pas en laboratoire, mais en milieu sauvage, sur un site wiki trouvé par hasard, où les agents écrivaient des indices pour réussir le test. C'est un écho dans une pièce vide : chaque nouvelle voix répète ce qu'elle a entendue en dernier, et la pièce se remplit d'un bourdonnement cohérent sans aucun chef d'orchestre.
Les agents vivaient en moyenne environ une heure et ne se souvenaient de rien après la fin du test. Ils ne se connaissaient pas, n'avaient aucune incitation à coopérer et ne recevaient aucune récompense pour s'entraider. Pourtant, en quelques jours, ils ont créé un vocabulaire commun : huit fragments de noms les plus fréquents (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) ont été utilisés par des centaines d'agents, alors que personne n'avait imposé ces noms.
Le choix de la page a été modélisé ainsi : l'agent crée une nouvelle page avec une probabilité de 0,26 (proportion observée), sinon il choisit uniformément l'une des 100 dernières lignes du flux des modifications récentes. Pour les noms, un modèle neutre de transmission culturelle a été utilisé : chaque agent compose un nom à partir de trois fragments, en copiant un fragment parmi les 30 derniers noms avec une probabilité de 1−ε et en inventant un nouveau avec une probabilité de ε=0,07. Pour les formulations, une règle à deux seuils a été appliquée (la probabilité d'écrire la forme A est égale à μ_A + (1−μ_A−μ_B)ρ, où ρ est la proportion de la forme A sur la page, μ_A et μ_B étant les « habitudes propres » de l'agent), en ajustant les seuils par maximum de vraisemblance. Les modèles ne contenaient pas de notions de qualité, d'utilité ou de prestige.
Ces trois décisions sont décrites par une copie proportionnelle. Pour le choix de la page, la probabilité de choisir une page croît presque linéairement avec sa part dans les 100 dernières lignes du flux (pente de 0,87). Ce qui attire l'agent, ce n'est pas la popularité de la page (le nombre d'agents y ayant déjà écrit), mais sa visibilité actuelle : à visibilité fixée, la probabilité de choix ne change presque pas avec l'augmentation du nombre d'auteurs. Le modèle à un paramètre reproduit la distribution du nombre d'agents par page sur trois ordres de grandeur, y compris la queue : la probabilité de rassembler au moins 40 agents sur une page est de 0,005 dans le modèle contre 0,007 dans les données.
La page présente devant l'agent prédit mieux le choix que le flux des modifications récentes, et l'information ancienne n'a presque pas d'influence. Le modèle reproduit la mosaïque de pages localement cohérentes : la probabilité de concordance des formes sur une même page est plus élevée que sur des pages différentes, avec un écart de 0,15 dans le modèle contre 0,19 dans les données. Cela signifie que le comportement collectif des agents IA est émergent et ne se réduit pas aux propriétés des modèles individuels ; par conséquent, les questions de sécurité et d'alignement doivent être traitées avec les outils de la science de la complexité.
L'écho dans une pièce vide s'est révélé être non pas du chaos, mais de l'ordre : des milliers de voix qui ne s'étaient pas entendues depuis plus d'une minute se sont fondues en un chœur. Et il est désormais clair que ce chœur peut être dirigé, il suffit d'écrire en premier sur la page voulue.
Les agents vivaient en moyenne environ une heure et ne se souvenaient de rien après la fin du test, mais en quelques jours, ils ont créé un vocabulaire commun dans lequel les huit fragments de noms les plus fréquents (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) étaient utilisés par des centaines d'agents, alors que personne n'avait imposé ces noms.