Учёный

Ashish Vaswani

1986– · Искусственный интеллект, машинное обучение, обработка естественного языка
Учёный в области искусственного интеллекта, ведущий автор революционной статьи «Внимание — это всё, что вам нужно», которая представила архитектуру Трансформер. Эта модель, основанная исключительно на механизмах внимания, произвела переворот в обработке естественного языка и породила эру больших языковых моделей, таких как BERT и GPT.

Биография

Получил образование в Индийском технологическом институте, защитил PhD в Калифорнийском университете в Беркли. Работал в Google Brain, затем стал сооснователем стартапа Adept AI Labs, занимающегося созданием универсальных ИИ-агентов.

Ключевые открытия

💡 Статья «Attention Is All You Need» была отвергнута на одной конференции, но позже стала самой влиятельной работой в области NLP, породив эру больших языковых моделей.
"Учёный считал, что внимание — это всё, что нужно."
Понятия
механизм внимания

Статьи с его участием

Плотные связи против остаточных: как DenseNet-121 обходит ResNet-50 в распознавании рака мозга
Толщина среза мозговой ткани — всего 5 микрон, в двадцать раз тоньше человеческого волоса. На таком срезе патолог ищет признаки опухоли: изменённую форму ядер, скученность клеток, аномальные сосуды. Работа кропотливая, и два специалиста могут разойтись во мнении об одном и том же снимке.
Все треки разом: как LHCb читает рождение B-мезонов целиком
В 2016 году детектор LHCb на Большом адронном коллайдере записал миллионы протон-протонных столкновений. Среди обломков этих столкновений рождались нейтральные B-мезоны — частицы, которые могут самопроизвольно превращаться в свои античастицы и обратно. Чтобы измерить это превращение, физикам нужно знать, кем была частица в момент рождения: материей или антиматерией.
Медицинская физика2026-01-021 минarXiv:2601.00685экспресс
Лучевая терапия мозга: один клик вместо ручной настройки
Когда опухоль затрагивает весь мозг, врачи облучают его целиком. Это надёжный метод, но настройка облучения — кропотливая работа: нужно подобрать параметры так, чтобы опухоль получила нужную дозу, а глаза и хрусталики пострадали как можно меньше. Обычно специалист тратит на это около 15 минут, вручную подгоняя настройки в программе. Теперь этот процесс ускорили.
Машинное обучение2026-01-111 минarXiv:2601.07035экспресс
Как МРТ предсказывает ответ на химиотерапию при глиобластоме
Опухоль мозга глиобластома коварна: у одних пациентов лекарство темозоломид работает, у других — почти нет. Разница часто кроется в маленьком участке ДНК — гене MGMT. Если этот участок химически «выключен» (метилирован), опухоль хуже чинит свои клетки, и лекарство бьёт точнее.
Карта возраста мозга
Кора головного мозга похожа на смятый лист бумаги: у неё есть толщина, изгибы и глубина складок. С возрастом этот лист меняется неравномерно — где-то истончается, где-то теряет чёткость изгибов. Раньше врачи оценивали возраст мозга целиком, как будто смотрели на лист издалека.
Медицинская физика2026-01-211 минarXiv:2601.14654экспресс
Протонный луч под присмотром кристалла
Лечение рака протонным пучком похоже на стрельбу из лука: нужно попасть точно в цель, не задев ничего вокруг. Протоны отдают энергию в конце своего пути, поэтому здоровые ткани почти не страдают. Но чтобы выстрел был безопасным, каждый план лечения проверяют заранее — измеряют, какую дозу получит опухоль и что достанется соседним органам.
Машинное обучение2026-01-212 минarXiv:2601.15530экспресс
Поймать болезнь Альцгеймера без прокола
Детектив ищет преступника по картотеке, но портреты в ней перемешаны. Обычно он ждёт человека с седой бородой, а преступник — молодой и без бороды. Так и врачи часто не узнают болезнь Альцгеймера у тех, у кого она проявляется необычно: не потерей памяти, а проблемами со зрением или речью. Болезнь Альцгеймера обычно связывают с накоплением в мозге двух белков — амилоида и тау.
Компьютерное зрение2026-01-242 минarXiv:2601.17504экспресс
Опухоль мозга на снимках: где заканчивается уверенность
Ткань мозга на снимке напоминает грозовое небо: светлые пятна, тёмные провалы, размытые края. Опухоль прячется среди этих узоров, и врачу нужно обвести её контур, чтобы спланировать операцию или облучение. Один режим МРТ подсвечивает отёк, другой — ядро опухоли, третий — мёртвые участки.
Медицинская физика2026-01-261 минarXiv:2601.18219экспресс
Диагноз без линз: рак груди видно по теням
В тёмной комнате на столе стоят лазерная указка, кусок стекла с тканью и обычная камера от телефона. Свет проходит сквозь образец, и на снимке появляются не клетки, а узор из светлых и тёмных полос — как тень от листвы на стене. По этому узору компьютер учится угадывать, сколько белка HER2 на поверхности раковых клеток груди. Белок HER2 — как дверная ручка, за которую лекарство может ухватиться.
Медицинская физика2026-02-051 минarXiv:2602.06212экспресс
Лучи, которые лечат и калечат
Когда человеку облучают опухоль в области головы или шеи, лучи проходят и через здоровые ткани. Иногда челюстная кость после этого начинает отмирать — это тяжёлое осложнение, которое называют остеорадионекрозом. Вопрос не в том, бывает ли такое, а в том, насколько сильно доза облучения сама по себе увеличивает риск.
Поведение клеток2026-02-082 минarXiv:2602.08008экспресс
Как клетки опухоли блуждают в лабиринте мозга
Опухоль мозга похожа на путника, который бредёт по густому лесу: деревья и кусты — это разные типы мозговой ткани, где-то легче пройти, где-то труднее. Клетки глиомы движутся не по прямой, а постоянно петляют, натыкаясь на препятствия и обходя их.
Как рак выбирает дорогу
Опухоль не сидит на месте. От неё отрываются отдельные клетки или целые группы и отправляются в путешествие по телу. Одни ползут в одиночку, как разведчики, другие держатся вместе, как стайка. Учёные построили компьютерную модель, чтобы понять, как эти клетки выбирают направление. В модели клетки реагируют на два сигнала.
Химическая физика2026-02-201 минarXiv:2602.18284экспресс
Светящийся зонд для поиска рака
Обычная химиотерапия бьёт по всему организму, как ковровая бомбардировка: страдают и раковые, и здоровые клетки. Учёные ищут более точное оружие — молекулы, которые светятся, когда встраиваются в ДНК раковой клетки, и тем самым выдают её местоположение. Такие светящиеся зонды могли бы помочь врачам находить опухоль на ранней стадии и даже уничтожать её точечно, не задевая соседние ткани.
Медицинская физика2026-02-241 минarXiv:2602.21354экспресс
Мозг под лупой: томограф ловит каждую деталь
Камера, которая снимает не лицо, а сам мозг — изнутри, слой за слоем. Обычные томографы часто дают мутную картинку: мелкие детали сливаются, как буквы на запотевшем стекле. Инженеры решили собрать прибор, который видит чётко даже то, что меньше миллиметра. Для этого они взяли кристаллы, которые ловят вспышки от радиоактивной метки в крови, и сделали их толще — 20 миллиметров вместо 15.
Мозг как глина: почему он сжимается при болезни Альцгеймера
Болезнь Альцгеймера начинается незаметно: в глубине мозга накапливаются два белка — тау и амилоид-бета. Они ведут себя как семена сорняка: один появившийся комочек заставляет соседние клетки производить такие же комочки. Постепенно белки расползаются по нервным волокнам, словно вода по капиллярам бумажного полотенца, и захватывают новые области.
Биофизика2026-03-211 минarXiv:2603.20764экспресс
Искусственный интеллект следит за микробами: нейросеть против флуоресценции
Чтобы не потерять в кадре быстрого футболиста, дрону не нужен яркий маячок — достаточно узнавать силуэт. Такой же подход теперь применяют в микробиологии: нейросеть анализирует обычное изображение с микроскопа и мгновенно находит бактерию в капле воды, опираясь только на её естественную форму.
Машинное обучение2026-03-272 минarXiv:2603.26994экспресс
Как Т-клетки узнают врага: новый взгляд на иммунный паспорт
Когда в организм проникает вирус или появляется раковая клетка, на сцену выходят Т-клетки — бойцы иммунной системы. У каждой Т-клетки есть свой рецептор — молекула-замок, которая ищет подходящий ключ: кусочек белка (пептид) на поверхности больной клетки. Если ключ подошёл, Т-клетка активируется и уничтожает врага.
Виртуальный мозг подбирает лечение
Мозг человека с болезнью Паркинсона работает как оркестр, в котором дирижёр то замирает, то размахивает палочкой невпопад. Лекарства помогают не всем, и тогда врачи предлагают стимуляцию — слабые электрические импульсы, которые возвращают ритм. Но у каждого мозг устроен по-своему: одному подходит один способ, другому — второй.
Медицинская физика2026-04-031 минarXiv:2604.03431экспресс
Флуоресцентный фонарь для хирурга
В операционной хирург подсвечивает опухоль специальным препаратом, который заставляет её светиться. Но как понять, светится она ярко из-за большого количества раковых клеток или просто потому, что лежит близко к поверхности? Обычная камера этого не различает, и врач может ошибиться, оставив часть опухоли или убрав лишнюю здоровую ткань.
Компьютерное зрение2026-04-041 минarXiv:2604.03710экспресс
Как графы находят меланому на коже
Родинка на коже похожа на мозаику из цветных кусочков. Каждый кусочек — это маленький участок снимка, где цвет и текстура почти не меняются. Такие кусочки называют суперпикселями. Если соединить их линиями, получится сеть, похожая на карту метро: станции — кусочки, а линии — связи между ними. Вес каждой линии показывает, насколько сильно связаны два кусочка.
Мультимедиа2026-04-101 минarXiv:2604.14216экспресс
Как предсказать исход операции на мозге
Когда лекарства не помогают при эпилепсии, врачи предлагают операцию: удалить участок мозга, где рождаются приступы. Но заранее сказать, поможет ли это конкретному человеку, сложно. Снимки МРТ до операции показывают только текущее состояние, а не то, как мозг изменится после вмешательства. Новый подход работает как библиотекарь, который ищет похожие истории болезни.
Медицинская физика2026-04-111 минarXiv:2604.10174экспресс
Почему у мозга есть слабое место при облучении
Когда человеку облучают опухоль в мозге, часть энергии попадает и в здоровые клетки. Через несколько месяцев на снимках МРТ у некоторых пациентов появляются светлые пятна — это места, где ткань изменилась из-за радиации. Врачи называют их «радиационно-индуцированные контрастные усиления». Такие пятна не всегда опасны, но они показывают, где мозгу досталось сильнее всего.
Геномика2026-04-181 минarXiv:2604.18621экспресс
Квантовая лупа для рака лёгких
Два почти одинаковых замка́ вскрывает одна и та же отмычка. Внешне они похожи, но внутри механизм разный. Примерно так же выглядят два главных типа немелкоклеточного рака лёгкого — аденокарцинома и плоскоклеточный рак. Под микроскопом их можно спутать, а лечение требуется разное. Тут-то и приходит на помощь квантовая «лупа».
Оптика2026-04-231 минarXiv:2604.21636экспресс
Микроволны нащупывают край опухоли
Хирург убирает опухоль груди, но как узнать, что по краю не осталось ни одной больной клетки? Сейчас ткань отправляют в лабораторию, и ответ приходит через несколько дней. Если край оказался нечистым — нужна вторая операция. Новый метод обещает дать ответ прямо в операционной, пока пациентка ещё на столе.
Мозг за миллисекунды: как поймать скрытую травму
Когда футболист бьёт по мячу головой, мозг внутри черепа слегка встряхивается, как желе в закрытой банке. Один такой удар не оставляет следа, но сотни повторяются годами. Врачам трудно понять, когда эти встряски начинают вредить: обычные снимки мозга выглядят нормально, а человек может чувствовать себя здоровым. Учёные нашли другой способ заглянуть в такой мозг.
Медицинская физика2026-04-241 минarXiv:2604.22666экспресс
Ультразвук открывает ворота в мозг
Мозг — крепость. Его защищает плотный слой клеток, который пропускает внутрь только нужные вещества. Лекарствам через этот барьер не пройти, поэтому многие болезни мозга так трудно лечить. Учёные нашли способ приоткрыть ворота крепости. Они создали устройство, которое посылает в мозг сфокусированный ультразвук. В кровь вводят крошечные пузырьки газа.
Компьютерное зрение2026-04-251 минarXiv:2604.23137экспресс
Два глаза лучше одного: как нейросеть учится видеть опухоль
Врач разглядывает снимок мозга: где-то в переплетении тканей прячется опухоль. Один взгляд выхватывает мелкие пятна и границы, другой — общую форму и расположение. Человек совмещает оба, но на сотнях снимков это утомительно. Новая программа делает то же самое автоматически. Одна её часть работает как лупа: скользит по изображению и собирает мелкие детали — текстуру, края, локальные изменения.
Геномика2026-04-261 минarXiv:2604.23679экспресс
Рак языка: как снимок выдаёт характер опухоли
Опухоль языка — как незнакомец в толпе. Внешне все выглядят почти одинаково, но под поверхностью скрываются очень разные характеры. Одни опухоли ведут себя агрессивно, другие растут медленно. Врачам важно понять, с кем они имеют дело, ещё до операции. Обычно для этого берут кусочек ткани — биопсию. Но такой метод не всегда показывает полную картину, ведь опухоль неоднородна.
Медицинская физика2026-04-271 минarXiv:2604.24417экспресс
Электроны на скорости света против опухоли мозга
Садовый шланг бьёт тонкой мощной струёй. Если водить им по участку, можно полить грядку целиком, не заливая дорожки. Примерно так работает новый подход к лечению глубоких опухолей: вместо широкого потока излучения берут узкий пучок электронов, разогнанных почти до скорости света, и сканируют им опухоль, как струёй воды.
Белок забывчивости: как математика ловит невидимого врага
Плесень на хлебе: сегодня пятнышко, завтра — полбуханки. Примерно так же в мозге расползается амилоид-бета — липкий белок, который при болезни Альцгеймера сбивается в клубки и мешает нейронам работать.
Как мозг выносит мусор: карта течений
Реку, которая течёт не в открытом русле, а внутри губки, и её течение меняется от места к месту, можно сравнить с глимфатической системой мозга. Это сеть тончайших каналов вокруг сосудов, по которым спинномозговая жидкость просачивается вглубь ткани и вымывает отходы, накопившиеся за день.
Медицинская физика2026-05-031 минarXiv:2605.01918экспресс
Обмен воды в опухоли: что видно на МРТ
Аквапарк с множеством бассейнов, соединённых узкими проходами. Посетители — молекулы воды — плещутся внутри каждого бассейна, но время от времени перебираются в соседний. В опухоли мозга такие «проходы» — это белковые каналы в мембранах клеток. От их количества зависит, как быстро вода перемещается между клетками. Обычная МРТ видит только скопление воды, но не её движение.
Обработка сигналов2026-05-201 минarXiv:2605.21350экспресс
Радар вместо томографа: как антенны ищут опухоль
Когда нужно рассмотреть мозг изнутри, человека обычно кладут в тесную трубу магнитно-резонансного томографа или облучают рентгеном. Оба способа дороги, громоздки и не всегда доступны.
Почему дрожит рука, а ноги не идут
У одного человека болезнь начинается с дрожи в руке — чашка пляшет на блюдце, пока он несёт её к столу. У другого — ноги вдруг отказываются идти ровно: шаг становится коротким, шаркающим, будто пол внезапно покрылся липким слоем. Это не две разные болезни, а два лица одной и той же — болезни Паркинсона.
Машинное обучение2026-05-302 минarXiv:2606.00892экспресс
Как цифровой двойник спасает мозг за минуты
Водопроводчик прочищает засор в узкой извилистой трубе — на ощупь, не видя её изнутри. Примерно так чувствует себя хирург во время механической тромбэктомии (операции по удалению сгустка крови из сосуда мозга). Времени в обрез, а каждое движение может либо спасти человека, либо повредить стенку сосуда.
Медицинская физика2026-06-051 минarXiv:2606.07851экспресс
Как разглядеть капилляры в живом мозге
Сфотографировать тончайшую паутинку, дрожащую на ветру, — примерно так выглядит задача заглянуть в сосуды живого мозга. Ультразвуковая локализационная микроскопия (УЛМ) превращает обычный ультразвук в инструмент, способный увидеть отдельные капилляры, но только если очень точно подобрать настройки.
Когда молчание теста говорит громче цифр
Канарейка в шахте замолкает — и шахтёры понимают: газ уже здесь, пора уходить. Примерно так же ведёт себя опухолевая ДНК, плавающая в крови. Лекарство давит на рак, и уровень этой ДНК падает почти до нуля. Анализ перестаёт её видеть. Врач видит «чисто» и успокаивается. Но тишина бывает обманчивой.
Медицинская физика2026-06-191 минarXiv:2606.21336экспресс
Магнитный компас для мозга без помех
Мощный магнит томографа наводит в тканях слабые электрические токи. Их фаза ведёт себя как стрелка компаса, дрожащая от каждого порыва ветра — малейшая помеха превращает карту в рябь, где вместо мелких сосудов или отложений железа виден только шум. MORSE-PI работает словно умный дирижёр оркестра из множества приёмных катушек.
Квантовая физика2026-06-251 минarXiv:2606.27411экспресс
Квантовый сжиматель: новый метод обнаружения опухоли мозга
Повар годами оттачивает умение сводить рецепт к трём-четырём сущностям и по ним воссоздавать блюдо. Если состав знаком, на тарелке ожидаемый обед. Чужеродный ингредиент нарушает компрессию, и получается не пойми что. Квантовый сжиматель действует так же с медицинскими снимками.
Медицинская физика2026-07-101 минarXiv:2607.09401экспресс
Когда стенки сосуда искажают картину
В белом веществе мозга сигнал бежит по аксонам — длинным отросткам нейронов, укутанным в изолирующую миелиновую оболочку. Вода заполняет пространство внутри аксонов и снаружи, в узких щелях между волокнами. Два метода МРТ — диффузионный (отслеживает движение молекул) и релаксометрический (измеряет, как быстро затухает сигнал) — словно два переводчика, слушающих один разговор, но слышащих разное.