كيف تتعلم الشبكة العصبية التحدث بلغة البشر سريع
نموذج اللغة هو بنية متعددة الطبقات، حيث تعالج كل طبقة الكلمات بطريقتها الخاصة. في بداية التدريب، تكون الطبقات فوضوية، لكنها تدريجيًا تنتظم في فريقين. الفريق الأول يعمل ببساطة: هندسته الداخلية تتماسك وتصبح أقل تشابكًا. بينما يظل الفريق الثاني معقدًا ومتشعبًا.
قارن العلماء النموذج ببيانات التصوير بالرنين المغناطيسي الوظيفي (fMRI) لأشخاص استمعوا إلى نص أو قرأوه. ظهر التشابه مع الدماغ بشكل غير متساوٍ: في المناطق الصدغية (المسؤولة عن نطق الكلمات ومعناها) — بسرعة وثبات، بينما في المناطق الأمامية (المسؤولة عن بناء الجمل) — في وقت لاحق وبشكل تدريجي. علاوة على ذلك، في النماذج الأكبر حجمًا، تكون هذه العلاقة أقوى.
يبدو أن تعلم اللغة هو رحلة من الفوضى إلى النظام. ربما يفعل الدماغ الشيء نفسه: يعمل على تنعيم بعض مسارات معالجة المعلومات، مع إبقاء مسارات أخرى معقدة لتحقيق المرونة.
يمكن تشبيه طبقات نموذج اللغة بأدوار الطوابق في المبنى: الطوابق السفلية تفكك الكلمات إلى أصوات وحروف، بينما تبني الطوابق العليا منها المعنى. أظهرت الدراسة أن الطوابق "البسيطة" تقع بالقرب من المدخل، بينما "المعقدة" تقع بالقرب من المخرج.
في فيلم "Her"، الذكاء الاصطناعي سامانثا يتطور ويبدأ في فهم البشر أفضل من فهمهم لأنفسهم. هذا البحث هو خطوة نحو فهم كيف يمكن للآلة أن تصل إلى هذا المستوى.