كلمة واحدة، مكتوبة بحرف كبير أو صغير، تُربك أقوى شبكة عصبية. لماذا؟ لأنها تقسّم النص إلى أجزاء صغيرة تُدعى رموزاً (tokens)، وتعتبر «قط» و«قط» عالمَين مختلفين. هذا هو الفجوة القاموسية — إحدى المشكلات الرئيسية في البحث السريع.
في البحث المتفرق (Sparse Search)، يُحول الاستعلام والوثائق إلى متجهات (vectors)، حيث أغلب الأعداد أصفار، والكلمات المفتاحية وحدها هي ذات دلالة. إنه سريع كفهرس أبجدي في كتاب، لكنه شديد الحساسية لكيفية تقسيم النص. النماذج الجديدة مثل مودرن-بيرت (ModernBERT) رائعة في المهام الصعبة، غير أن قاموسها شديد التنوع بالنسبة لمثل هذا البحث. كل كلمة تتشظى إلى عشرات الصيغ: حالة الأحرف، أخطاء إملائية، صيغ نادرة. تهدر الشبكة العصبية طاقتها في فهرسة عقيمة بدلاً من البحث عن المعنى، فيتحول الأمر إلى بلبلة بابلية حيث لا لغة مشتركة.
تعمل طريقة نقل المفردات (Vocabulary Transfer) كمترجم. في البداية، يُختار قاموس وسيط بسيط — مثل قاموس النموذج القديم بيرت (BERT) غير الحساس لحالة الأحرف، حيث «Token» و«token» هما رمز واحد. ثم يُبنى جسر دلالي. بالنسبة للرموز المشتركة، تُنسخ التمثيلات الجاهزة، أما بالنسبة للجديدة فتُجمع كمتوسط من أقرب «مراسي». خوارزمية خاصة هي سبارس ماكس (sparsemax) تُبقي فقط على أقوى الروابط، وتُصفّر الضوضاء. بعد ذلك يُعاد تدريب النموذج لفترة قصيرة: 500 خطوة فقط باستخدام التعلم بالإخفاء (MLM)، أي ما يقرب من 0.2% من التدريب الأصلي. اللمسة الأخيرة هي معايرة التنشيطات: ضبط الإعدادات بحيث لا تغفو الخلايا العصبية للشبكة إلى الأبد.
النتيجة: يحقق نموذج ModernBERT-VT درجة 52.4 على مقياس nDCG في اختبارات BEIR — بزيادة قدرها 4.7 نقاط. الطريقة تعيد إحياء نماذج كانت ميؤوساً منها. عملاق آخر، RoBERTa-large، كان يُظهر بدايةً 1.4 نقطة فقط، وبعد النقل يقفز إلى 51.3. المثير للفضول: بدون معايرة التنشيطات، ينهار الأداء إلى 48.8. هكذا، بتجاوز الفوضى في صيغ الكلمات، تتحدث الشبكة العصبية أخيراً بلغة البحث الدقيق والسريع، فنعثر على ما نريد بسرعة أكبر.
مجرد تحويل الكلمات إلى أحرف صغيرة لا ينفع: كلمة «Halloween» تتشظى إلى «hall» و«ow» و«een»، فتفقد معناها. أما نقل المفردات فيحل المشكلة جذرياً.