Natural language processing is the concept of enabling computers to understand, interpret, and generate human language.معالجة اللغة الطبيعية (NLP) هي مجال عند تقاطع علم اللغة وتعلم الآلة (machine learning)، حيث تتعلم الخوارزميات استخلاص المعنى من النصوص والكلام. يعتمد الأساس على تمثيل الكلمات كمتجهات (word vectors) — أرقام تصف معناها — وتقوم الشبكات العصبية (neural networks) بتحليل التسلسلات، ملتقطة السياق. النماذج الحديثة مثل GPT لا تقوم فقط بتطبيق القواعد — بل تستوعب كميات هائلة من الكتب والمقالات والحوارات وتبني صورة احتمالية للغة: أي كلمة من المرجح أن تأتي بعد هذه العبارة. هكذا ينشأ نص متماسك أو ترجمة أو إجابة على سؤال.
تعود فكرة الترجمة الآلية وتحليل النصوص إلى أعمال آلان تورينغ (1950) واختباره الشهير. في عام 1954 أجريت تجربة جورجتاون — أول ترجمة آلية علنية من الروسية إلى الإنجليزية. في الستينيات والسبعينيات، هيمنت الأنظمة القائمة على القواعد (النحو والقواميس)، لكنها تعطلت أمام غموض اللغة. في الثمانينيات والتسعينيات، ظهرت الأساليب الإحصائية المعتمدة على متون نصية. أحدثت الشبكات العصبية ثورة: في عام 2013، تعلم نموذج word2vec إنتاج تمثيلات متجهة (vector representations) ذات معنى للكلمات، وفي عام 2014 حسّن نموذج seq2seq مع الانتباه الترجمة، وفي عام 2017 أصبحت بنية المحول (Transformer) الأساس لمعظم أنظمة NLP الحديثة. بدأ اختراق النماذج اللغوية الكبيرة مع BERT (2018) و GPT-3 (2020)، الذي أظهر أنه مع زيادة حجم الشبكة والبيانات تحدث قفزة نوعية في فهم اللغة.
الآلية الأساسية في نماذج NLP الحديثة هي الانتباه متعدد الرؤوس (multi-head attention) من بنية المحول (Transformer). يتم ترميز النص المدخل إلى رموز (tokenization) وتحويله إلى تضمينات (embeddings) — متجهات ذات أبعاد ثابتة. ثم تقوم عدة طبقات من الانتباه الذاتي بحساب مجموع مرجح لجميع المواضع الأخرى لكل موضع، مما يسمح للكلمة بجمع السياق من الجملة بأكملها. صيغة الانتباه: Attention(Q, K, V) = softmax(QK^T / √d_k)V، حيث Q, K, V هي الاستعلامات والمفاتيح والقيم المستخرجة من التضمينات المدخلة. في مرحلة التدريب المسبق (pre-training)، يتعلم النموذج التنبؤ بالرموز المفقودة (مثل BERT) أو الرمز التالي (مثل GPT)، عبر تقليل الإنتروبيا المتقاطعة (cross-entropy). بعد ذلك، يُعاد تدريبه لمهام محددة على مجموعة بيانات موسومة صغيرة. ناتج النموذج هو توزيع احتمالي على القاموس، ومنه يتم اختيار الرمز التالي.
المساعدات الصوتية، الإكمال التلقائي للنص، المترجمات، مرشحات البريد العشوائي — كل شيء يعتمد على خوارزميات تفهم الكلام البشري.
أكبر نموذج لغوي 'قرأ' نصوصًا أكثر مما يستطيع الإنسان قراءته في ألف حياة — حوالي 500 مليار كلمة.


















