الشبكة العصبية التي تتعلم شيئًا جديدًا تشبه مسافرًا في منطقة جبلية. كل معرفة مكتسبة هي انخفاض في التضاريس، ينزلق إليه المسافر ويعلق فيه. للخروج والوصول إلى حفرة جديدة، يحتاج إلى طاقة. ولكن كلما اكتسب المسافر خبرة، أصبحت جدران حفرته أكثر انحدارًا، وكل صعود تالٍ يتطلب جهدًا أكبر.
وصف الفيزيائيون هذه العملية بمعادلات تُستخدم عادةً للحركة البراونية (Brownian motion) — اهتزاز حبوب اللقاح في الماء. تم تمثيل حالة الشبكة العصبية كجسيم يتحرك باضطراب بين حفرتين على مشهد طاقة. الضوضاء التي تدفع الجسيم تلعب دور "درجة حرارة التعلم". عندما تكون درجة الحرارة مرتفعة، يقفز الجسيم بسهولة من حفرة إلى أخرى — تتعلم الشبكة الجديد بسرعة. ولكن عند درجة حرارة منخفضة، يبقى الجسيم في مكانه — تتمسك الشبكة بالقديم بعناد.
الفخ الرئيسي للتعلم المستمر هو ما يسمى "الاستقرار مقابل المرونة" (stability-plasticity dilemma). إذا تمسكت الشبكة بالمعرفة السابقة بشدة، لا تستطيع استيعاب الجديد. وإذا نسيت كل شيء بسهولة، تفقد ما تراكم لديها. أظهر مؤلفو المقالة أن الطريقة الشائعة للحماية من النسيان (فرض عقوبة على تغيير الوصلات المهمة) في الواقع تبني حاجزًا ينمو مع كل مهمة جديدة. ارتفاع الحاجز يزداد خطيًا، بينما احتمال القفز فوقه يتناقص أسيًا. لذلك بعد عشرات المهام، تتجمد الشبكة نهائيًا.
هذا الاكتشاف يقدم وصفة: لكي تظل الشبكة العصبية مرنة، لا يكفي معاقبتها على النسيان، بل يجب إدارة "درجة الحرارة" — أي الضوضاء في عملية التعلم — بحكمة. حقن مفاجئ لدرجة حرارة عالية في اللحظات المناسبة يمكن أن يساعد الشبكة على إعادة التنظيم دون فقدان المهارات القديمة.
الحركة البراونية، التي تقوم عليها النموذج، لاحظها لأول مرة عالم النبات روبرت براون في عام 1827، عندما كان يفحص حبوب اللقاح في الماء تحت المجهر. ظن أنه يرى "قوة حية"، لكنها كانت في الواقع اصطدامات بجزيئات غير مرئية.