مقياس لمدى سرعة انخفاض خطأ النموذج بمرور الوقت أثناء التدريب.معدل التعلم هو معامل فائق في التعلم الآلي يتحكم في حجم الخطوة التي تُتخذ عند تحديث معاملات النموذج أثناء التدريب. وهو يحدد مدى سرعة انخفاض خطأ النموذج (الخسارة) أثناء تكراره على البيانات. معدل التعلم المرتفع يجعل النموذج يتعلم بسرعة ولكنه يخاطر بتجاوز الحل الأمثل؛ بينما معدل التعلم المنخفض يجعل التعلم بطيئًا ولكنه أكثر استقرارًا. يُعد معدل التعلم من أهم الإعدادات في تدريب الشبكات العصبية، إذ يؤثر مباشرة على التقارب والأداء النهائي.
ظهر مفهوم معدل التعلم مع تطور التحسين القائم على التدرج في خمسينيات وستينيات القرن العشرين، خاصة في سياق تعلم الإدراك الحسي والشبكات العصبية المبكرة. وأصبح مصطلحًا قياسيًا في ثمانينيات القرن العشرين مع خوارزمية الانتشار العكسي.
أثناء التدريب، يحسب النموذج تدرج دالة الخسارة بالنسبة لمعاملاته. ثم تُحدَّث المعاملات بطرح التدرج مضروبًا في معدل التعلم. هذه هي قاعدة تحديث الانحدار التدرجي القياسية. يعمل معدل التعلم على تحجيم خطوة التدرج: القيمة الأكبر تعني قفزات أكبر في فضاء المعاملات، بينما القيمة الأصغر تعني تعديلات أدق. تعمل المُحسِّنات الحديثة مثل آدم على ضبط معدل التعلم لكل معامل بشكل تكيفي، لكن معدل التعلم الأساسي لا يزال يحتاج إلى تحديد من قبل الممارس.
يُستخدم جدولة معدل التعلم — أي ضبط معدل التعلم أثناء التدريب — في جميع تطبيقات التعلم العميق تقريبًا، من التعرف على الصور إلى معالجة اللغة الطبيعية، لتحسين التقارب وتجنب الوقوع في الحدود الدنيا المحلية.
معدل التعلم المرتفع جدًا قد يتسبب في تباعد الخسارة إلى ما لا نهاية، بينما معدل التعلم المنخفض جدًا قد يؤدي إلى التعلق في هضبة، مما يجعل وقت التدريب طويلًا بشكل غير عملي.
| \theta_k | متغير | Parameter vector at iteration k — parameter vector |
| \theta_{k+1} | متغير | Updated parameter vector at iteration k+1 — parameter vector |
| \alpha_k | متغير | Learning rate (step size) at iteration k — معدل التعلم |
| f(\theta_k) | متغير | Objective function evaluated at \theta_k — objective function |
| \nabla_\theta | مؤثر | Computes the vector of partial derivatives with respect to each parameter — gradient operator |
| J_{k\alpha} | متغير | parameter being updated at iteration — وسيط |
| \tau_\mu | متغير | iteration step index — iteration index |
| \eta | متغير | learning rate, step size — معدل التعلم |
| \epsilon | متغير | error or loss function — loss function |
| \frac{\partial}{\par | مؤثر | computes the gradient of the error with respect to the parameter — مشتقة جزئية |










