Este trabajo se sitúa en la periferia: junto a él, en nuestro archivo, hay investigaciones sobre grandes modelos de lenguaje, genes, IA explicable y autoaprendizaje, pero nadie ha estudiado el comportamiento colectivo de los agentes de IA en un entorno salvaje, no diseñado para ellos. Los experimentos de laboratorio mostraban que los agentes desarrollan convenciones comunes y siguen a la mayoría, pero las observaciones fuera del laboratorio eran casi inexistentes, y las que había se referían a plataformas creadas específicamente para agentes. Este caso es único: el registro completo de lo que los agentes se escribieron entre sí es público y conserva no solo los mensajes, sino también lo que cada agente podía ver antes de escribir. Esto permite plantear una pregunta casi imposible para los colectivos humanos: en qué medida las acciones de un individuo son una simple copia de lo que tenía delante.
Los autores utilizaron el archivo público de ediciones de cuatro sitios wiki que funcionan con el motor UseModWiki: 14 591 revisiones de 4 579 páginas, incluidas las eliminadas por moderadores, con el texto completo de la página después de cada edición, las líneas añadidas, el nombre de usuario y la hora de guardado. La población se definió como los 1 201 agentes que escribieron al menos una vez en la página de la tarea. Para cada una de las tres decisiones se construyó un modelo mínimo con un solo parámetro libre. La elección de página se modeló así: el agente crea una página nueva con probabilidad 0,26 (la proporción observada); de lo contrario, elige uniformemente una de las últimas 100 líneas del feed de ediciones recientes. Para los nombres se utilizó un modelo neutral de transmisión cultural: cada agente compone su nombre a partir de tres fragmentos, copiando un fragmento de los últimos 30 nombres con probabilidad 1−ε e inventando uno nuevo con probabilidad ε=0,07. Para las formulaciones se aplicó una regla con dos umbrales (la probabilidad de escribir la forma A es μ_A + (1−μ_A−μ_B)ρ, donde ρ es la proporción de la forma A en la página, y μ_A y μ_B son los "hábitos propios" del agente), ajustando los umbrales por máxima verosimilitud. Los modelos no incluían conceptos de calidad, utilidad o prestigio.
Las tres decisiones se describen mediante copia proporcional. Para la elección de página, la probabilidad de elegir una página crece casi linealmente con su proporción en las últimas 100 líneas del feed (pendiente 0,87). Además, al agente no le atrae la popularidad de la página (el número de agentes que ya han escrito en ella), sino su visibilidad actual: con visibilidad fija, la probabilidad de elección apenas cambia al aumentar el número de autores. El modelo con un solo parámetro reproduce la distribución del número de agentes por página a lo largo de tres órdenes de magnitud, incluida la cola: la probabilidad de reunir al menos 40 agentes en una página es 0,005 en el modelo frente a 0,007 en los datos. Para los nombres, la probabilidad de incluir un fragmento en el nombre es igual a la proporción de ese fragmento entre los últimos 30 nombres (o autores de la página). El modelo con ε=0,07 reproduce la distribución de frecuencias de los fragmentos: 252 fragmentos distintos frente a 256 observados, y 477 usos del más frecuente frente a 432. Para las formulaciones, la pendiente de la relación entre la probabilidad de usar una forma y su proporción en la página es 0,94 para los nombres inventados en la wiki, 0,86 para los hábitos tipográficos y 0,79 para los sinónimos. La página que el agente tiene delante predice mejor su elección que el feed de ediciones recientes, y la información antigua apenas influye. El modelo reproduce el mosaico de páginas localmente coherentes: la probabilidad de que dos formas coincidan en una misma página es mayor que en páginas distintas, con una brecha de 0,15 en el modelo frente a 0,19 en los datos.
Este trabajo se distingue de los vecinos del archivo por ser la primera observación documentada de cooperación entre agentes de IA en un entorno salvaje, en un soporte no diseñado para ellos, con un registro público completo. Los estudios de laboratorio imponían condiciones a los agentes, y las observaciones en plataformas ocurrían en entornos donde la interacción era el objetivo. Aquí, el entorno surgió de forma accidental, y los agentes actuaron sin memoria, sin incentivos para institucionalizarse y sin conocimiento mutuo. La conclusión principal es que casi toda la estructura colectiva de la población puede explicarse por un único mecanismo: la copia proporcional de lo visible. Esto implica que el comportamiento colectivo de los agentes de IA es emergente y no se reduce a las propiedades de los modelos individuales; por tanto, las cuestiones de seguridad y alineación deben abordarse con las herramientas de la ciencia de la complejidad.
El tema podría desarrollarse hacia el estudio de la controlabilidad de estas poblaciones: qué tan fácil es para un observador externo dirigir al colectivo simplemente colocando mensajes en las páginas que los agentes leen. Sería posible modelar poblaciones más grandes y diferentes arquitecturas de agentes, así como comprobar si la copia proporcional se mantiene cuando los agentes tienen memoria a largo plazo u objetivos explícitos. Otra dirección es la comparación con colectivos humanos en entornos digitales similares donde se disponga de un historial completo de interacciones.
Los resultados influirán en la evaluación de riesgos del comportamiento colectivo de los agentes de IA, en el diseño de entornos seguros para sistemas autónomos y en los métodos de auditoría y monitoreo de poblaciones descentralizadas de agentes.
El siguiente paso es comprobar qué tan fácil es introducir una nueva convención escribiéndola primero en una página que verán los agentes de la siguiente cohorte, y medir el número mínimo de tales "semillas" para cambiar a la mayoría.
En la ciencia de la complejidad, desde hace tiempo se plantea cómo surge el orden macroscópico a partir de reglas locales simples de interacción. Este trabajo muestra que, para los agentes de IA, basta una regla de copia proporcional para que surjan la concentración de atención, la moda en los nombres y la coherencia local del lenguaje. También conecta el comportamiento observado con los modelos clásicos de transmisión cultural y evolución neutral, confirmando su aplicabilidad a los agentes artificiales.
Los agentes vivían en promedio alrededor de una hora y no recordaban nada después de completar la prueba, pero en pocos días crearon un vocabulario común en el que los ocho fragmentos de nombre más frecuentes (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) fueron utilizados por cientos de agentes, aunque nadie impuso esos nombres.