52.4 في مقياس nDCG@10 — هذه هي النتيجة التي يحققها مودرن بيرت بعد إجراء نقل المفردات. بالأمس فقط كان يخلط بين الأحرف الكبيرة والصغيرة، واليوم يتفوق على أفضل أنظمة البحث المتفرق.

تفشل الشبكة العصبية في البحث لأنها لا تستطيع الاتفاق على الكلمات. فكلمة Token و token بالنسبة لها كونان مختلفان. هذه هي فجوة المفردات: حيث يتعلم المُحَوِّل (Transformer) القوي أشكالاً لا حصر لها عديمة الفائدة، بدلاً من التعلق بالمعنى.

البحث المتفرق (sparse retrieval) هو عندما يتم تحويل الاستعلام والمستندات إلى متجهات تشبه الفهرس المقلوب (inverted index): معظم المكونات أصفار، ولا تحمل أوزانًا إلا كلمات مفتاحية قليلة. هذا النهج سريع وقابل للتفسير، لكنه متطلب من حيث القاموس. قد يظن المرء أنه كلما كانت الشبكة العصبية أقوى، كان البحث أفضل. لكن البيانات خادعة: مودرن بيرت الجديد، الذي يتفوق على بيرت في البحث الكثيف (dense retrieval)، يتقهقر بشكل منهجي في البحث المتفرق أمام بيرت القديم غير الحساس لحالة الأحرف (BERT-base-uncased). السبب هو أداة التقسيم (tokenizer). فالنماذج الحديثة المصممة لاستعادة النص بدون أخطاء تضخم القاموس: الأحرف الكبيرة والصغيرة والأخطاء الإملائية والأشكال النادرة تخلق مئات المتغيرات للمفهوم الواحد. فتنتج بلبلة بابلية، حيث لا وجود لـ«لغة مشتركة» ببساطة.

تعمل طريقة نقل المفردات (Vocabulary Transfer) (VT) كمترجم خبير. أولاً، يتم اختيار اللغة الهدف — قاموس مُطبَّع من بيرت غير الحساس لحالة الأحرف (BERT-base-uncased)، حيث يتم دمج «Token» و«token» في كيان واحد. ثم يُبنى جسر دلالي. بالنسبة للرموز (tokens) المشتركة، تُنسخ التضمينات (embeddings). أما الجديدة فتُركَّب كمجموعة موزونة من أقرب «مراسي» من التقاطع المشترك. تُعطي الأوزان عملية sparsemax — وهي عامل يقوم بتصفير الروابط الضعيفة، تاركًا فقط أكثر الجيران تشابهًا. هذا يحافظ على طوبولوجيا الفضاء الدلالي. إعادة تدريب قصيرة باستخدام الإخفاء (masking) — 500 خطوة فقط — ويتقن النموذج اللغة الجديدة. اللمسة الأخيرة هي معايرة الجهد التنشيطي (Activation Potential Calibration) (APC): حيث يُضبط الانحياز بحيث يستجيب حوالي 40% من العصبونات، متجنبًا «المناطق الميتة» وانهيار التمثيلات.

على معيار BEIR، يحقق مودرن بيرت بعد نقل المفردات (ModernBERT-VT) 52.4 في مقياس nDCG — بزيادة +4.7 نقطة عن SPLADE القياسي. تنعش الطريقة حتى النماذج اليائسة. روبيرتا الكبير (RoBERTa-large) بقاموسه المعتمد على BPE والحساس لحالة الأحرف كان يسجل 1.4 فقط في مقياس nDCG، لكنه بعد النقل يقفز إلى 51.3. أما بيرت الحساس لحالة الأحرف (BERT-cased) فيرتفع من 10.6 إلى 50.2. من المثير للاهتمام أنه بدون معايرة APC، يتراجع النموذج المُدرَّب إلى 48.8. كما تسجل VT رقمًا قياسيًا للبُنى عديمة الاستدلال: 51.5 في مقياس nDCG عندما يكون مُشفِّر الاستعلام ثابتًا.

يتبين أن تصميم القاموس ليس تفصيلًا معماريًا، بل عنق الزجاجة الأساسي في البحث الشبكي العصبي. يؤكد الإطار النظري باستخدام تعقيد راديماخر (Rademacher complexity) أن تطبيع القاموس الذي يحافظ على الدلالات يحسّن التعميم. يتحول نقل المفردات إلى جسر عالمي، يمنح النماذج القوية لغة مشتركة مع المهام المتفرقة. في المستقبل — اختيار تلقائي للقواميس، ودمج النهج الكثيف والمتفرق، والتوسع إلى أنظمة عملاقة. وهكذا، بعد تخطي بلبلة أشكال الكلمات، تتكلم الشبكة العصبية أخيرًا لغة البحث الدقيق والسريع.