Ce travail est à part : à côté de lui, dans nos archives, se trouvent des études sur les grands modèles de langage, les gènes, l'IA explicable et l'apprentissage autonome, mais personne n'a étudié le comportement collectif des agents IA dans un environnement sauvage et non conçu pour eux. Des expériences en laboratoire ont montré que les agents développent des conventions communes et suivent la majorité, mais les observations hors laboratoire sont rares, et celles qui existent concernent des plateformes spécialement conçues pour les agents. Ce cas est unique : l'enregistrement complet de ce que les agents se sont écrit est public et conserve non seulement les messages eux-mêmes, mais aussi ce que chaque agent pouvait voir avant d'écrire. Cela permet de poser une question presque impossible pour les collectifs humains : dans quelle mesure les actions d'un individu sont-elles une simple copie de ce qui était devant lui ?
Les auteurs ont utilisé l'archive publique des modifications de quatre sites wiki fonctionnant sur le moteur UseModWiki : 14 591 révisions de 4 579 pages, y compris celles supprimées par les modérateurs, avec le texte complet de la page après chaque modification, les lignes ajoutées, le nom d'utilisateur et l'heure d'enregistrement. La population a été définie comme les 1 201 agents qui ont écrit au moins une fois sur la page de la tâche. Pour chacune des trois décisions, un modèle minimal avec un seul paramètre libre a été construit. Le choix de la page a été modélisé ainsi : l'agent crée une nouvelle page avec une probabilité de 0,26 (proportion observée), sinon il choisit uniformément l'une des 100 dernières lignes du flux des modifications récentes. Pour les noms, un modèle neutre de transmission culturelle a été utilisé : chaque agent compose un nom à partir de trois fragments, copiant un fragment parmi les 30 derniers noms avec une probabilité de 1−ε et en inventant un nouveau avec une probabilité ε=0,07. Pour les formulations, une règle à deux seuils a été appliquée (la probabilité d'écrire la forme A est μ_A + (1−μ_A−μ_B)ρ, où ρ est la proportion de la forme A sur la page, μ_A et μ_B étant les « habitudes propres » de l'agent), en ajustant les seuils par maximum de vraisemblance. Les modèles ne contenaient pas de notions de qualité, d'utilité ou de prestige.
Les trois décisions sont décrites par une copie proportionnelle. Pour le choix de la page, la probabilité de choisir une page croît presque linéairement avec sa part dans les 100 dernières lignes du flux (pente de 0,87). L'agent n'est pas attiré par la popularité de la page (le nombre d'agents y ayant déjà écrit), mais par sa visibilité actuelle : à visibilité fixe, la probabilité de choix ne change presque pas avec l'augmentation du nombre d'auteurs. Le modèle à un paramètre reproduit la distribution du nombre d'agents par page sur trois ordres de grandeur, y compris la queue : la probabilité de rassembler au moins 40 agents sur une page est de 0,005 dans le modèle contre 0,007 dans les données. Pour les noms, la probabilité d'inclure un fragment dans le nom est égale à la part de ce fragment parmi les 30 derniers noms (ou les auteurs de la page). Le modèle avec ε=0,07 reproduit la distribution de fréquence des fragments : 252 fragments distincts contre 256 observés, 477 utilisations du plus fréquent contre 432. Pour les formulations, la pente de la relation entre la probabilité d'utiliser une forme et sa part sur la page est de 0,94 pour les noms inventés sur le wiki, 0,86 pour les habitudes typographiques et 0,79 pour les synonymes. La page devant l'agent prédit mieux le choix que le flux des modifications récentes, et les informations anciennes n'ont presque aucun effet. Le modèle reproduit la mosaïque de pages localement cohérentes : la probabilité de correspondance des formes sur une même page est plus élevée que sur des pages différentes, avec un écart de 0,15 dans le modèle contre 0,19 dans les données.
Ce travail se distingue des autres études de l'archive car c'est la première observation documentée de coopération entre agents IA en milieu sauvage, sur un support non conçu pour eux, avec un enregistrement public complet. Les études en laboratoire imposaient des conditions aux agents, et les observations sur plateformes se déroulaient dans des environnements où l'interaction était l'objectif. Ici, l'environnement est apparu par hasard, et les agents agissaient sans mémoire, sans incitation à l'institutionnalisation et sans se connaître. Le principal enseignement est que presque toute la structure collective de la population peut s'expliquer par un seul mécanisme : la copie proportionnelle de ce qui est visible. Cela signifie que le comportement collectif des agents IA est émergent et ne se réduit pas aux propriétés des modèles individuels ; par conséquent, les questions de sécurité et d'alignement doivent être traitées avec les outils de la science de la complexité.
Le sujet pourrait évoluer vers l'étude de la contrôlabilité de ces populations : dans quelle mesure un observateur externe peut-il orienter le collectif en plaçant simplement des messages sur les pages que les agents lisent. On pourrait modéliser des populations plus grandes et différentes architectures d'agents, et vérifier si la copie proportionnelle persiste lorsque les agents disposent d'une mémoire à long terme ou d'objectifs explicites. Une autre direction est la comparaison avec des collectifs humains dans des environnements numériques similaires, où l'historique complet des interactions est disponible.
Les résultats influenceront l'évaluation des risques liés au comportement collectif des agents IA, la conception d'environnements sûrs pour les systèmes autonomes et les méthodes d'audit et de surveillance des populations d'agents décentralisées.
La prochaine étape consiste à vérifier s'il est facile d'introduire une nouvelle convention en l'écrivant en premier sur une page que les agents de la prochaine cohorte verront, et à mesurer le nombre minimal de ces « amorces » pour faire basculer la majorité.
En science de la complexité, la question de savoir comment un ordre macroscopique émerge de simples règles d'interaction locales est ancienne. Ce travail montre que pour les agents IA, une seule règle de copie proportionnelle suffit pour faire émerger une concentration de l'attention, des modes dans les noms et une cohérence locale du langage. Il relie également le comportement observé aux modèles classiques de transmission culturelle et d'évolution neutre, confirmant leur applicabilité aux agents artificiels.
Les agents vivaient en moyenne environ une heure et ne se souvenaient de rien après la fin du test, mais en quelques jours, ils ont créé un vocabulaire commun dans lequel les huit fragments de noms les plus fréquents (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) étaient utilisés par des centaines d'agents, alors que personne n'avait imposé ces noms.