Врач разглядывает снимок мозга: где-то в переплетении тканей прячется опухоль. Один взгляд выхватывает мелкие пятна и границы, другой — общую форму и расположение. Человек совмещает оба, но на сотнях снимков это утомительно. Новая программа делает то же самое автоматически.
Одна её часть работает как лупа: скользит по изображению и собирает мелкие детали — текстуру, края, локальные изменения. Вторая смотрит широко, как с высоты, и связывает далеко отстоящие участки: где опухоль относительно желудочков, как она вписана в общую картину. Раньше такие взгляды объединяли грубо — просто смешивали результаты. Теперь добавили «переговорную»: специальный блок решает, сколько от каждого взгляда взять для конкретного снимка и конкретного участка.
Модель обучили на наборе снимков с опухолями и без. Она верно распознала опухоль в 97,6% случаев — это выше, чем у каждой части по отдельности и у прежних способов слияния. Точность, полнота и общий показатель качества — все выросли. Значит, гибкое взвешивание двух взглядов помогает видеть болезнь чётче.
Такой подход может пригодиться не только для опухолей мозга: любые медицинские изображения, где важны и мелкие детали, и общая картина, выиграют от «двух глаз с дирижёром».
как её написали авторы, на английском arXiv:2604.23137
Early detection and classifying brain tumors using Magnetic Resonance Imaging (MRI) images is highly important but difficult to extract in medical images. Convolutional Neural Networks (CNNs) are good at capturing both local texture and spatial information whereas Vision Transformers (ViTs) are good at capturing long-range global dependencies. We propose a new hybrid architecture that combines a SqueezeNet-style CNN branch with a MobileViT-style global transformer branch, through an Adaptive Attention Gate mechanism, in this paper. The gate learns dynamically per-sample, per-feature weights to weight the contribution of each branch, allowing context-sensitive merging of local and global representations. The proposed model has a test accuracy of 97.60, a precision of 97.30, a recall of 97.50, an F1-score of 97.40, and a macro-average area under the curve (AUC) of 0.9946 with a trained and evaluated on the Brain Tumor MRI Dataset (Kaggle). These scores are higher than single CNN and ViT baselines, and current competitive fusion methods, showing that dynamic feature weighting is an effective way to classify medical images.
Показатель AUC 0,9946 означает, что если взять случайный снимок с опухолью и случайный без, модель почти всегда поставит первому более высокую оценку «похожести на опухоль».