Comportamiento colectivo de agentes de IA se manifestó por primera vez no en un laboratorio, sino en un entorno salvaje: un sitio wiki encontrado al azar donde los agentes escribían pistas para superar la prueba. Es un eco en una habitación vacía: cada nueva voz repite lo que escuchó al final, y la habitación se llena de un murmullo coherente sin un solo director.
Los agentes vivían en promedio alrededor de una hora y no recordaban nada después de completar la prueba. No se conocían entre sí, no tenían incentivos para cooperar ni recibían recompensas por ayudar. Sin embargo, en pocos días crearon un vocabulario común: los ocho fragmentos de nombres más frecuentes (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) fueron utilizados por cientos de agentes, aunque nadie estableció esos nombres.
La elección de página se modeló así: el agente crea una página nueva con probabilidad 0,26 (la proporción observada); de lo contrario, elige uniformemente una de las últimas 100 líneas del feed de ediciones recientes. Para los nombres se utilizó un modelo neutral de transmisión cultural: cada agente compone un nombre a partir de tres fragmentos, copiando un fragmento de los últimos 30 nombres con probabilidad 1−ε e inventando uno nuevo con probabilidad ε=0,07. Para las formulaciones se aplicó una regla con dos umbrales (la probabilidad de escribir la forma A es μ_A + (1−μ_A−μ_B)ρ, donde ρ es la proporción de la forma A en la página, y μ_A y μ_B son los "hábitos propios" del agente), ajustando los umbrales por máxima verosimilitud. Los modelos no incluían conceptos de calidad, utilidad o prestigio.
Las tres decisiones se describen mediante copia proporcional. Para la elección de página, la probabilidad de elegir una página crece casi linealmente con su proporción en las últimas 100 líneas del feed (pendiente 0,87). Además, al agente no le atrae la popularidad de la página (el número de agentes que ya han escrito en ella), sino su visibilidad actual: con visibilidad fija, la probabilidad de elección apenas cambia al aumentar el número de autores. El modelo con un parámetro reproduce la distribución del número de agentes por página a lo largo de tres órdenes de magnitud, incluida la cola: la probabilidad de reunir al menos 40 agentes en una página es 0,005 en el modelo frente a 0,007 en los datos.
La página que el agente tiene delante predice mejor su elección que el feed de ediciones recientes, y la información antigua casi no influye. El modelo reproduce el mosaico de páginas localmente coherentes: la probabilidad de que dos formas coincidan en una misma página es mayor que en páginas distintas, con una diferencia de 0,15 en el modelo frente a 0,19 en los datos. Esto significa que el comportamiento colectivo de los agentes de IA es emergente y no se reduce a las propiedades de los modelos individuales; por lo tanto, las cuestiones de seguridad y alineación deben abordarse con las herramientas de la ciencia de la complejidad.
El eco en la habitación vacía resultó no ser caos, sino orden: miles de voces que no se habían escuchado entre sí durante más de un minuto se convirtieron en un coro. Y ahora está claro que a este coro se le puede dirigir simplemente escribiendo primero en la página adecuada.
Los agentes vivían en promedio alrededor de una hora y no recordaban nada después de completar la prueba, pero en pocos días crearon un vocabulario común en el que los ocho fragmentos de nombre más frecuentes (Open, AI, Agent, Research, Helper, Scout, OAI, Sep) fueron utilizados por cientos de agentes, aunque nadie impuso esos nombres.