هذا العمل يقع على هامش الأبحاث: بجانبه في أرشيفنا دراسات حول نماذج اللغة الكبيرة، والجينات، والذكاء الاصطناعي القابل للتفسير، والتعلم الذاتي، لكن لا أحد درس السلوك الجماعي لوكلاء الذكاء الاصطناعي في بيئة غير مهيأة لهم. أظهرت التجارب المخبرية أن الوكلاء يطورون اتفاقيات مشتركة ويتبعون الأغلبية، لكن الملاحظات خارج المختبر كانت شبه معدومة، وما وُجد منها كان على منصات صُممت خصيصًا للوكلاء. هذه الحالة فريدة: السجل الكامل لما كتبه الوكلاء لبعضهم البعض علني، ويحتفظ ليس فقط بالرسائل نفسها، ولكن أيضًا بما يمكن أن يراه كل وكيل قبل الكتابة. هذا يتيح طرح سؤال شبه مستحيل للمجموعات البشرية: إلى أي مدى تكون أفعال الفرد مجرد محاكاة لما كان أمامه.
استخدم المؤلفون الأرشيف العام للتعديلات على أربعة مواقع ويكي تعمل بمحرك UseModWiki: 14,591 مراجعة لـ 4,579 صفحة، بما في ذلك الصفحات المحذوفة من قبل المشرف، مع النص الكامل للصفحة بعد كل تعديل، والأسطر المضافة، واسم المستخدم، ووقت الحفظ. تم تحديد المجتمع على أنه 1,201 وكيلًا كتبوا مرة واحدة على الأقل في صفحة المهمة. لكل قرار من القرارات الثلاثة، تم بناء نموذج بسيط بمعامل حر واحد. تمت نمذجة اختيار الصفحة كالتالي: ينشئ الوكيل صفحة جديدة باحتمال 0.26 (النسبة الملاحظة)، وإلا يختار بشكل موحد واحدًا من آخر 100 سطر في قائمة التعديلات الأخيرة. للأسماء، استُخدم نموذج محايد للانتقال الثقافي: يجمع كل وكيل اسمًا من ثلاثة أجزاء، بنسخ جزء من آخر 30 اسمًا باحتمال 1−ε، وابتكار جزء جديد باحتمال ε=0.07. للصياغات، طُبقت قاعدة ذات عتبتين (احتمال كتابة الصيغة A يساوي μ_A + (1−μ_A−μ_B)ρ، حيث ρ هي نسبة الصيغة A على الصفحة، وμ_A وμ_B هما "العادات الذاتية" للوكيل)، مع ضبط العتبات بأقصى احتمال. النماذج لم تتضمن مفاهيم الجودة أو الفائدة أو المكانة.
القرارات الثلاثة تصفها المحاكاة المتناسبة. لاختيار الصفحة، يزداد احتمال اختيار صفحة بشكل شبه خطي مع نسبتها في آخر 100 سطر من القائمة (الميل 0.87). لا يجذب الوكيل شعبية الصفحة (عدد الوكلاء الذين كتبوا عليها بالفعل)، بل ظهورها الحالي: عند ثبات الظهور، لا يتغير احتمال الاختيار تقريبًا مع زيادة عدد المؤلفين. نموذج بمعامل واحد يعيد إنتاج توزيع عدد الوكلاء على الصفحة عبر ثلاثة أوامر من الحجم، بما في ذلك الذيل: احتمال تجميع ما لا يقل عن 40 وكيلًا على الصفحة في النموذج هو 0.005 مقابل 0.007 في البيانات. للأسماء، احتمال تضمين جزء في الاسم يساوي نسبة هذا الجزء بين آخر 30 اسمًا (أو مؤلفي الصفحة). نموذج بـ ε=0.07 يعيد إنتاج التوزيع التكراري للأجزاء: 252 جزءًا مختلفًا مقابل 256 ملاحظًا، و477 استخدامًا للأكثر شيوعًا مقابل 432. للصياغات، ميل علاقة احتمال استخدام الصيغة بنسبتها على الصفحة هو 0.94 للأسماء المبتكرة على الويكي، و0.86 للعادات المطبعية، و0.79 للمرادفات. الصفحة أمام الوكيل تتنبأ بالاختيار أفضل من قائمة التعديلات الأخيرة، والمعلومات القديمة لا تؤثر تقريبًا. النموذج يعيد إنتاج فسيفساء الصفحات المتسقة محليًا: احتمال تطابق الصيغ على نفس الصفحة أعلى منه على صفحات مختلفة، بفارق 0.15 في النموذج مقابل 0.19 في البيانات.
يتميز هذا العمل عن جيرانه في الأرشيف بأنه أول ملاحظة موثقة لتعاون وكلاء الذكاء الاصطناعي في بيئة غير مهيأة، على وسيط لم يصممه أحد لهم، مع سجل عام كامل. الدراسات المخبرية فرضت شروطًا على الوكلاء، وملاحظات المنصات حدثت في بيئات كان التفاعل هدفًا لها. هنا، نشأت البيئة بالصدفة، وتصرف الوكلاء دون ذاكرة، ودون حوافز للمأسسة، ودون معرفة بعضهم ببعض. الاستنتاج الرئيسي: يمكن تفسير البنية الجماعية الكاملة تقريبًا للمجتمع بآلية واحدة: المحاكاة المتناسبة للمرئي. هذا يعني أن السلوك الجماعي لوكلاء الذكاء الاصطناعي هو سلوك ناشئ ولا يختزل في خصائص النماذج الفردية، وبالتالي يجب معالجة قضايا السلامة والمواءمة بأدوات علم التعقيد.
يمكن أن يتطور الموضوع نحو دراسة قابلية توجيه هذه المجموعات: إلى أي مدى يمكن لمراقب خارجي توجيه المجموعة ببساطة عن طريق وضع رسائل على الصفحات التي يقرؤها الوكلاء. من الممكن أيضًا نمذجة مجموعات أكبر وهندسات مختلفة للوكلاء، واختبار ما إذا كانت المحاكاة المتناسبة تستمر عندما يكون لدى الوكلاء ذاكرة طويلة المدى أو أهداف صريحة. اتجاه آخر هو المقارنة مع المجموعات البشرية في بيئات رقمية مماثلة حيث يتوفر السجل الكامل للتفاعلات.
ستؤثر النتائج على تقييم مخاطر السلوك الجماعي لوكلاء الذكاء الاصطناعي، وعلى تصميم بيئات آمنة للأنظمة المستقلة، وعلى طرق التدقيق والمراقبة للمجموعات اللامركزية من الوكلاء.
الخطوة التالية هي اختبار مدى سهولة إدخال اتفاقية جديدة بكتابتها أولاً على صفحة سيراها وكلاء الدفعة التالية، وقياس الحد الأدنى لعدد هذه "البذور" لتغيير الأغلبية.
في علم التعقيد، ظل السؤال قائمًا حول كيفية ظهور النظام العياني من قواعد تفاعل محلية بسيطة. يظهر هذا العمل أنه بالنسبة لوكلاء الذكاء الاصطناعي، تكفي قاعدة واحدة للمحاكاة المتناسبة لظهور تركيز الانتباه، وموضة الأسماء، والاتساق المحلي للغة. كما يربط السلوك الملاحظ بالنماذج الكلاسيكية للانتقال الثقافي والتطور المحايد، مؤكدًا قابليتها للتطبيق على الوكلاء الاصطناعيين.
عاش الوكلاء في المتوسط حوالي ساعتين ولم يتذكروا شيئًا بعد انتهاء الاختبار، لكن خلال أيام قليلة أنشأوا مفردات مشتركة، حيث استخدم مئات الوكلاء الأجزاء الثمانية الأكثر شيوعًا للأسماء (Open، AI، Agent، Research، Helper، Scout، OAI، Sep)، رغم أن أحدًا لم يحدد هذه الأسماء.