لماذا لا تشرح الشبكة العصبية التي تقرأ النبض من الوجه قراراتها دائمًا ✛
خريطة الكنز التي ترسمها الشبكة العصبية تعد بإظهار مكان دفن الذهب. لكن إذا نُقلت الخريطة إلى جزيرة أخرى، فقد تشير العلامات إلى الفراغ. هكذا، تفسيرات النموذج الذي يقيس النبض من فيديو الوجه لا تتطابق دائمًا مع الموثوقية الفعلية.
تلتقط الشبكة العصبية RhythmFormer التغيرات اللونية الطفيفة في الجلد الناتجة عن نبضات القلب. طبق العلماء أربع طرق للتفسير وقاسوا تغطية الجلد (نسبة انتباه النموذج على الوجه) ومعامل الصدق (مدى توافق ترتيب أهمية المناطق مع التأثير الفعلي). اتضح أنه داخل نفس المشارك، لا تتنبأ هذه المؤشرات بخطأ النبض. لكن على مستوى ظروف التصوير، تحركت تغطية الجلد بطريقة Beyond Intuition جنبًا إلى جنب مع جودة التقييم.
خريطة الكنز لا تُظهر أين دُفن الذهب بالضبط بالنسبة لشخص معين. التفسيرات تحمل معلومات إضافية، لكنها لا تحل محل مقاييس الدقة. يجب على مطوري أنظمة مراقبة النبض عن بُعد أن يفسروا التفسيرات بحذر كمؤشر على الموثوقية.
في أضعف إضاءة (40 لوكس)، توقف نموذج Beyond Intuition عن التركيز على الجلد، وأصبحت تفسيراته أسوأ من العشوائية. في المقابل، فإن الحركة التي أدت إلى تدهور أكبر في دقة النبض لم تسبب مثل هذا الخلل في التفسيرات.
فكرة قراءة النبض من الوجه دون لمس تذكرنا بالماسحات الطبية في الخيال العلمي، مثل جهاز التراكور من مسلسل «ستار تريك» الذي يقيس المؤشرات الحيوية عن بُعد. كما تثار مسألة الثقة في تفسيرات الذكاء الاصطناعي في مسلسل «ويست وورلد»، حيث تظل سلوكيات الذكاء الاصطناعي غير واضحة لمبتكريها.