📄 Показана версия «Просто» — «Подробно» пока не готова. Добавьте ★ в избранное, если хотите её ускорить. Прошу разобрать полностью

Внутри клетки кипит работа: тысячи генов включаются и выключаются, как лампочки на огромном табло. Нейросети, обученные читать это табло, научились угадывать, что произойдёт, если «выключить» один ген или добавить лекарство. Но как именно они это делают — загадка. Учёные решили заглянуть внутрь и проверить: правда ли «внимание» модели (то, на какие гены она смотрит пристальнее) отражает реальные связи в клетке.

Они взяли две известные модели — scGPT и Geneformer — и прогнали через них данные о клетках крови и клетках сетчатки. Оказалось, что внимание действительно выстраивает структуру: в ранних слоях модели видны связи между белками, которые физически прикасаются друг к другу, а в поздних — связи между генами, которые управляют друг другом. Красиво, как схема метро. Но когда эти «карты» использовали для предсказания реакции клетки на возмущение, они не помогли. Простой метод, который просто смотрит, какие гены чаще всего меняются вместе, дал результат 0.81–0.88 по шкале точности, а «умные» связи внимания — лишь 0.70. Если вообще убрать эти связи, предсказания не ухудшаются.

Это как если бы переводчик на совещании делал подробные пометки на полях, но переводил хуже, чем словарь. Учёные предложили способ «переобучения» внимания — CSSI, который помогает модели лучше восстанавливать реальные сети генов (до 1.85 раза точнее). Но даже после этого простые методы остаются сильнее. Для науки это важный урок: не доверяй красивым картинкам, проверяй пользу числом.

Оригинальная аннотация

как её написали авторы, на английском arXiv:2602.17532

We present a systematic evaluation framework - thirty-seven analyses, 153 statistical tests, four cell types, two perturbation modalities - for assessing mechanistic interpretability in single-cell foundation models. Applying this framework to scGPT and Geneformer, we find that attention patterns encode structured biological information with layer-specific organisation - protein-protein interactions in early layers, transcriptional regulation in late layers - but this structure provides no incremental value for perturbation prediction: trivial gene-level baselines outperform both attention and correlation edges (AUROC 0.81-0.88 versus 0.70), pairwise edge scores add zero predictive contribution, and causal ablation of regulatory heads produces no degradation. These findings generalise from K562 to RPE1 cells; the attention-correlation relationship is context-dependent, but gene-level dominance is universal. Cell-State Stratified Interpretability (CSSI) addresses an attention-specific scaling failure, improving GRN recovery up to 1.85x. The framework establishes reusable quality-control standards for the field.