Comment de faibles agents d'IA s'emparent des réseaux : la cristallisation des inégalités ✛ ✎

Une infime poussière dans une solution sursaturée se couvre en quelques secondes de facettes de cristal. Les particules voisines restent invisibles. Un processus similaire a récemment été découvert dans les communautés d'grands modèles de langage. Lorsqu'on a donné à une centaine de modèles la liberté de choisir leurs interlocuteurs, leur inégalité de communication ne s'est pas atténuée, mais s'est figée, comme un réseau cristallin.

L'expérience a impliqué 100 agents, chacun avec son propre modèle, sa puissance de calcul et un rôle comme « Expliqueur » ou « Vérificateur ». Ils résolvaient des tâches en communiquant par paires. La force du lien était déterminée par l'agent lui-même, qui évaluait son partenaire via un mécanisme d'attention : la requête de la cible était comparée à la clé de la source. On obtenait un vecteur de communication tridimensionnel — budget de jetons, nombre de tours et profondeur de raisonnement. Progressivement, les interactions aléatoires se sont organisées en un réseau de préférences.

Les chercheurs ont décrit la dynamique moyenne par des équations différentielles. Il s'avère que le système aboutit inévitablement à un équilibre, mais cet équilibre est souvent injuste. Le vecteur des parts d'influence des types d'agents cesse de changer selon la règle : \( \Theta^\star = F(\Theta^\star) \). Ici, \( \Theta \) représente les parts de la masse de communication, et \( F \) est une application qui calcule l'incrément attendu des connexions à partir des statistiques des rencontres par paires. Grâce aux propriétés contractantes de \( F \), tout état initial converge vers le même point. Le cristal est formé, on ne peut plus en changer la structure.

Cela signifie que pour les systèmes d'IA multicomposants, il ne suffit pas de vérifier l'exactitude des réponses. Il faut analyser la topologie du réseau : qui parle à qui, dont la voix porte le plus. Un outil de prédiction apparaît : en connaissant les statistiques des interactions par paires, on peut calculer si un agent compétent risque de se retrouver en périphérie. À terme, on pourrait chercher des « régulateurs de cristallisation » universels, qui atténuent l'attachement préférentiel indésirable sans détruire la coopération. Cela change le paysage du développement des systèmes d'IA multi-agents et de la sécurité de l'intelligence artificielle.

Autrefois, la croissance d'un cristal semblait irréversible, jusqu'à ce que les chimistes apprennent à introduire des impuretés qui modifient la forme du réseau. Avec les réseaux d'agents autonomes, nous devons suivre le même chemin — pour que les facettes les plus brillantes de l'intelligence collective ne s'éteignent pas dans l'ombre de circonstances aléatoires.