ينظر أخصائي الأشعة إلى صورة البطن ولا يرى مجرد أعضاء، بل يرى ترتيبها المكاني: أي كلية أكبر، وأين يقع الورم بالنسبة للوعاء الدموي. هذا يشبه قراءة خريطة، حيث لا يكفي أن تعرف أين تقع المدينة عادةً، بل يجب أن تكون قادرًا على قياس المسافة بين نقطتين على الأرض. باحثون من IIIT Hyderabad وAIG Hospitals بنوا SPAR-Bench، وهي ثماني مهام تختبر ما إذا كانت نماذج الرؤية الطبية قادرة على هذا النوع من الاستدلال. اتضح أن النماذج تجيب بشكل ممتاز عن الأسئلة المتعلقة بالمواضع النمطية للأعضاء، ولكن بمجرد أن تتطلب المهمة مقارنة في صورة محددة، مثل أي كلية أكبر، تنخفض الدقة إلى مستوى التخمين العشوائي.
في أساس SPAR-Bench توجد مجموعة WORD، وهي 150 صورة مقطعية للبطن مع تحديد 16 عضوًا. من الشرائح قُصَّت مربعات تحتوي على أعضاء منفردة، وأُزيل السياق، وجُمعت ثلاثة مستويات من المهام. المستوى الأول هو التموضع: يجب على النموذج أن يتنبأ بإحداثيات مركز العضو. المستوى الثاني هو استعادة الترتيب: تُخلط المربعات، ويجب على النموذج إعادتها إلى أماكنها. المستوى الثالث هو ستة أنواع من الأسئلة حول الشريحة كاملة: هل الكبد على يسار الطحال، هل الصورة مقلوبة، أي كلية أكبر، ما نسبة المساحة التي يشغلها العضو، أي مسافة أكبر، وكم عدد الأورام الظاهرة.
النتيجة الرئيسية هي أن التناظر الثنائي بقي في مستوى التخمين العشوائي في جميع التكوينات الـ 13، وعند النقل إلى بيانات خارجية وفي النماذج متعددة الوسائط. لم تتجاوز الدقة 36% بينما الاحتمال العشوائي 33%. في الوقت نفسه، وصلت المواضع النسبية للأعضاء داخل مجموعة WORD إلى 99%، لكنها انخفضت عند النقل إلى TotalSegmentator إلى 50-70%، وعند أحد النماذج إلى 50.03±0.04، وهو ما لا يمكن تمييزه عن العشوائية. هذا يعني أن الدرجات العالية كانت تعكس حفظ التشريح النمطي، وليس الحساب من الصورة.
اكتشاف آخر: طريقة قراءة السمات تغير الاستنتاجات. BiomedCLIP المجمد مع رأس MLP استعاد ترتيب المربعات في 0.7% فقط من الحالات، بينما مع رأس Transformer على نفس السمات وصل إلى 67.8%. أي أن التجميع (pooling) يخفي المعلومات الموجودة في التوكينات. التحسين الإضافي لـ RadDINO حسّن استعادة الترتيب (من 22% إلى 69% مع MLP)، لكنه أضعف التموضع (من خطأ 9.88 إلى 11.46 بكسل)، مما أظهر تبادلًا بين القدرات. النماذج متعددة الوسائط أجابت بمستوى عشوائي على الأسئلة التي حلها المرمِّزون بشكل شبه مثالي، والعكس صحيح، ففيما يتعلق بحجم العضو، بلغ التباين بينها 75 نقطة مئوية.
الخلاصة تعيدنا إلى خريطة بلا بوصلة. النموذج يتذكر المواضع المعتادة للأعضاء، مثل طالب حفظ أطلسًا، لكنه لا يجيد قياس المسافة بين نقطتين في صورة محددة. هذا الاكتشاف يغير قواعد تقييم النماذج الطبية: بدلًا من التشخيص النهائي، يجب اختبار الأحكام المكانية الوسيطة، وهي التي تشكل العمل الحقيقي لأخصائي الأشعة.
في مجموعة WORD يوجد 150 صورة مقطعية، لكن لحساب الأورام استُخدمت 20 مقطعًا فقط بتسميات من LiTS، وهي حالة نادرة تتعقد فيها المهمة بسبب نقص البيانات لا زيادتها.