Врач редко ставит диагноз по одному беглому взгляду на снимок. Он всматривается, приближает, сравнивает с атласом, листает статьи. Нейросети до недавнего времени работали иначе: увидела картинку — сразу выдала текст. Авторы новой работы решили дать модели время и инструменты.
Нейросеть GAZE работает как внимательный радиолог. Она может приблизить подозрительный участок, усилить контраст, выделить края, а ещё — заглянуть в базу медицинских статей PubMed и в архив снимков Open-i. Каждый шаг записывается, так что весь путь к диагнозу можно проверить. На испытании с 906 МРТ мозга, где спрятаны 281 редкое заболевание, GAZE нашла поражённые области в 58% случаев и верно назвала болезнь в 35% — без специального обучения под эту задачу.
Но есть и нюанс. Когда модель активно ищет статьи и похожие снимки, она лучше ставит диагноз, но иногда хуже очерчивает границы поражения. Поэтому авторы настаивают: проверять такие системы нужно сразу по трём пунктам — что она написала, какой диагноз поставила и как точно обвела больное место. Только так можно понять, что нейросеть действительно научилась смотреть, как врач.
В среднем модель вызывала инструменты почти 12 раз на каждый снимок — примерно столько же действий делает радиолог, изучая сложный случай.
В сериале «Хороший доктор» гениальный врач рассматривает снимки снова и снова, пока не увидит то, что пропустили другие. GAZE — шаг к такому же упорству у машин.