الشك يفضحه الصمت: الذكاء الاصطناعي يقرأ التوقفات سريع

الأصل: "Simple Features and Honest Calibration for Ambivalence and Hesitancy Recognition in Video"
· Vikas Kumar, Aditya Mishra, Haroon R. Lone
arXiv:2607.11120 · 2026-07-13 · CC BY 4.0 · 1 دقيقة
التوقفات التي تمحوها أنظمة التعرف على الكلام هي المؤشر غير اللفظي الأكثر موثوقية لعدم يقين الإنسان.

📄 معروضة نسخة «بسيط» — «متقدم» غير جاهزة بعد. أضفه إلى المفضّلة للمساعدة في تسريعها.

يقوم نظام جديد بتحليل مقابلة قصيرة للتعرف على شكوك الشخص، من خلال دمج النص والصوت وتعابير الوجه. لكن المفتاح الرئيسي لعدم اليقين كان المادة المظلمة للكلام - التوقفات وكلمات الحشو التي تُمحى من أنظمة الكلام القياسية كما يمحو الثقب الأسود كل شيء. هذه الفجوات، التي تُعتبر عادةً نفايات، قدّمت الإشارة غير اللفظية الأكثر استقلالية.

على الرغم من أن اللغة تظل القناة الأقوى، إلا أن الصمت بين الكلمات يفضح الشك بشكل أدق من النغمات. كما لاحظ الباحثون أن محاولات أخذ الإشارات المتناقضة في الحسبان - مثل الابتسامة مع صوت حزين - كانت تربك النظام فقط. ضبط بسيط لعتبة الاستجابة مع تقسيم الإشارة إلى مكونات أتاح تجاوز النموذج المعياري، مما يحدد الشكوك بدقة حتى في البيانات غير المألوفة. هذه المنهجية مفيدة في خدمات الدعم وتقييم الحالة العاطفية.

الملخص الأصلي

كما كتبه المؤلفون، بالإنجليزية arXiv:2607.11120

We address ambivalence and hesitancy (A/H) recognition in the ABAW 2026 BAH Challenge: given a short interview video, predict whether the person shows signs of A/H. Our system combines affect-specialised text, audio, and visual representations with a small set of readable linguistic hesitation cues, fused by a reliability gate we call Affective Marker Fusion (AMF), and finished with a simple AP-weighted ensemble at a fixed decision threshold. We also introduce \emph{ASR-erased time}: speech recognisers delete fillers and hesitation pauses from the transcript, but the chunk timestamps keep the time those events took, and sixteen features built from these gaps form the strongest and most independent non-verbal channel we measured (AP $$0.718$$, correlation $$0.11$$--$$0.36$$ with all other members). Across controlled experiments we find three things: cross-modal conflict design does not reliably help on BAH; language is by far the strongest channel while affect-specialised audio is a useful second; and calibration matters more than architecture. Fitting ensemble weights and a threshold on the small validation split overfits: it scores $$0.741$$ macro-F1 on validation but only $$0.690$$ on the untouched test set. AP-weighting at a fixed threshold instead reaches $$\mathbf{0.731}$$ on test.

حوالي 40% من الكلام العفوي عبارة عن توقفات وحشوات، تتخلص منها أنظمة الكلام فتفقد بذلك أدلة قيمة عن عدم اليقين.

العلماء
Jacob BekensteinStephen HawkingLudwig BoltzmannJames Clerk MaxwellRudolf ClausiusEdward Witten
المفاهيم
تحليل الكلام بالذكاء الاصطناعي التعرف على الكلام