مطبخ بلا توقفات: كيف يتوقف الذكاء الاصطناعي عن التجمد ✛
في المطبخ الساخن للمطعم، لا يستطيع كبير الطهاة الانتظار حتى تُغسل المقلاة. وبالمثل، تتعثر نماذج اللغة الكبيرة الحديثة (Large Language Models) التي تشكل أساس روبوتات الدردشة والمساعدين الصوتيين في الحوارات الطويلة. كل إجابة تضيف سطورًا جديدة إلى الذاكرة الداخلية التي تخزن الكلمات المُعالجة مسبقًا. مع مرور الوقت، تتضخم هذه الذاكرة و'تفسد' — يبدأ النموذج في الخلط والخطأ، حتى لو لم يتجاوز الحدود رسميًا بعد. لتجنب ذلك، تُنظف الذاكرة: تُحذف الأجزاء القديمة أو يُعاد صياغتها بإيجاز. لكن بعد كل تنظيف، يعيد النموذج قراءة التاريخ بأكمله لبناء ملاحظات سريعة جديدة (ما يُسمى ذاكرة التخزين المؤقت للمفاتيح والقيم KV-cache). وبينما ينشغل بذلك، تتجمد الإجابة — فنرى تلك الأجزاء من الثانية من الصمت.
يحل SmoothAgent المشكلة ببساطة: ينقل عملية التنظيف إلى الخلفية. تخيل أن كبير الطهاة لديه مساعد يغسل المقالي في حوض منفصل ويجففها بينما يستمر الطهي الرئيسي. في اللحظة المناسبة، تكون الأداة النظيفة جاهزة. وهنا: بينما يتواصل الوكيل الرئيسي مع المستخدم، يطبق وكيل ظل في الخلفية خطة تحسين — يضغط أو يعيد كتابة جزء من التاريخ — ويبني له مسبقًا سجلات داخلية. وعندما يحين وقت التنظيف، تستبدل كتلة الذاكرة الجاهزة القديمة فورًا، ويستمر الوكيل الرئيسي في الحديث دون تلعثم.
يحول هذا النهج إدارة السياق من عائق لا مفر منه إلى خدمة خلفية غير ملحوظة. في جوهره، يستخدم مبدأ 'أعِدَّ عُدَّتَكَ قبل الحاجة' من نظرية المعلومات: إذا كان بالإمكان تقسيم العمل إلى أجزاء مستقلة، فقم به مسبقًا بينما المعالج غير مشغول. يمكن تطبيق نفس المبدأ على أي حسابات جانبية في معالجة اللغة الطبيعية، وأنظمة البحث في المستندات، والخدمات السحابية. ونتيجة لذلك، يلاحظ المستخدم ببساطة أن مساعده الذكي يجيب بسلاسة وسرعة، مثل فريق مطبخ مضبوط جيدًا.
عندما يصبح الحوار طويلاً للغاية، يبدأ النموذج في الخلط بين الأنماط المتكررة — تقريبًا مثل إنسان يفقد تسلسل الأفعال في سلسلة من الإجراءات المتشابهة.