Радиолог смотрит на снимок брюшной полости и видит не просто органы, а их взаимное расположение: какая почка больше, где опухоль относительно сосуда. Это похоже на чтение карты, где важно не только знать, где обычно стоит город, но и уметь измерить расстояние между двумя точками на местности. Учёные из IIIT Hyderabad и AIG Hospitals построили SPAR-Bench — восемь проб, которые проверяют, способны ли медицинские модели зрения на такое рассуждение. Оказалось, что модели отлично отвечают на вопросы о типичном положении органов, но как только задача требует сравнения в конкретном снимке — например, какая почка крупнее — точность падает до случайного угадывания.
В основе SPAR-Bench лежит набор WORD — 150 КТ брюшной полости с разметкой 16 органов. Из срезов вырезали плитки с отдельными органами, убрали контекст и собрали три уровня задач. Первый уровень — локализация: модель должна предсказать координаты центра органа. Второй — восстановление порядка: плитки перемешивают, и модель должна вернуть их на места. Третий — шесть типов вопросов по целому срезу: слева ли печень от селезёнки, повёрнут ли снимок, какая почка больше, какую долю площади занимает орган, какое расстояние больше и сколько опухолей видно.
Итог возвращает нас к карте без компаса. Модель помнит, где органы обычно находятся, как ученик, выучивший атлас, но не умеет измерить расстояние между двумя точками на конкретном снимке. Это открытие меняет правила оценки медицинских моделей: вместо конечного диагноза нужно проверять промежуточные пространственные суждения, которые и составляют настоящую работу радиолога.
В наборе WORD 150 КТ, но для подсчёта опухолей использовали всего 20 томов с разметкой из LiTS — редкий случай, когда задача усложняется нехваткой данных, а не их избытком.