Contrastive learning is a machine learning method that trains models by comparing similar and dissimilar examples.التعلم التبايني هو نهج في التعلم الآلي يتيح بناء تمثيلات عالية الجودة للبيانات دون الحاجة إلى تصنيفها (تعلم ذاتي الإشراف). يعتمد على مفهوم الخسارة التباينية: حيث يقوم النموذج بتقريب تمثيلات (تضمينات) الكائنات المتشابهة دلاليًا (الأزواج الموجبة) وإبعاد تمثيلات الكائنات غير المرتبطة (الأزواج السالبة). على سبيل المثال، في مجال الصور، تشكل المناظير المختلفة (المعززات) للصورة نفسها أزواجًا موجبة، بينما تشكل أي صور أخرى في الدفعة المصغرة أزواجًا سالبة. بهذه الطريقة، تتعلم الشبكة العصبية استخلاص السمات الثابتة، متجاهلةً الاختلافات غير الجوهرية مثل الإضاءة، والدوران، والمقياس. وقد أصبح هذا الأسلوب أساسًا للعديد من أنظمة التعرف الحديثة، حيث يتفوق غالبًا على التعلم المُوجَّه في حالات ندرة البيانات المصنفة.
تعود الجذور إلى التعلم المتري: الشبكات السيامية (Bromley et al., 1993) لمقارنة التوقيعات. في عام 2006، اقترح هادسيل وليكون خسارة تباينية لتعلم تمثيلات ثابتة. عاد الاهتمام مع التقدم في التعلم الذاتي الإشراف للصور: في 2018، استخدم نموذج InstDisc (Wu et al.) بنك ذاكرة؛ وشكلت نماذج MoCo (He et al., 2020) مع طابور الأمثلة السالبة، وSimCLR (Chen et al., 2020) بحجم دفعة كبير ومعززات قوية، قفزة نوعية. أظهرت هذه الأعمال أن التدريب التبايني المسبق يحقق دقة تقترب من التعلم المُوجَّه، بل وتتفوق عليه أحيانًا عند الضبط على عينات صغيرة. لاحقًا، طُوِّع هذا النهج للفيديو والصوت والرسوم البيانية والبيانات متعددة الوسائط (CLIP, 2021).
تتضمن الخوارزمية ثلاث مراحل: (1) معززات بيانات عشوائية تنشئ تمثيلين مستقلين للمدخل نفسه (مثل الاقتصاص العشوائي وتشويه اللون)؛ (2) يقوم المُشَفِّر (ResNet، ViT) بإسقاطهما إلى متجهات في فضاء خفي؛ (3) يحول رأس الإسقاط (MLP) هذه المتجهات إلى فضاء أقل أبعادًا حيث تُحسب الخسارة التباينية InfoNCE: L = -log[ exp(sim(z_i, z_j)/τ) / ∑_{k=1}^{2N} 1_{k≠i} exp(sim(z_i, z_k)/τ) ]، حيث sim هو تشابه جيب التمام، وτ معامل درجة الحرارة. يؤدي التحسين إلى تقليل الإنتروبيا المتبادلة بين توزيعي الأزواج الموجبة والسالبة. لتجنب انهيار التمثيلات (تدهور جميع المتجهات إلى نقطة واحدة)، تُستخدم آليات مثل: الأزواج السالبة من طابور (MoCo)، وإيقاف التدرج والمتنبئ (BYOL)، والتجميع (SwAV). في النهاية، يكتسب الفضاء الخفي بنية دلالية ثابتة تجاه التحويلات المحددة.
التعرف على الوجوه دون الحاجة إلى بطاقات تعريفية، البحث عن صور متشابهة في أرشيفات ضخمة، تحسين التشخيص من الصور الطبية عند ندرة البيانات المصنفة.
نظام CLIP من OpenAI، الذي دُرِّبَ بطريقة تباينية على أزواج من الصور والنصوص، يستطيع إنشاء لوحات فنية بناءً على الوصف، رغم أنه لم يُدرَّب مباشرةً على الأسلوب الفني — لقد التقط العلاقات ببساطة.





















