В детекторе Большого адронного коллайдера после каждого столкновения протонов остаются тысячи точек — следы разлетающихся частиц. Нейросеть научилась видеть в этом узоре закономерности и предсказывать, что произошло в момент удара. Теперь ту же сеть натренировали смотреть на молекулы: вместо следов частиц — положения атомов, а вместо столкновения — как эти атомы будут двигаться и взаимодействовать.
Секрет в том, что в модель встроили правило: атомы, которые находятся близко друг к другу, влияют сильнее, чем далёкие. Это похоже на то, как соседи по лестничной клетке замечают друг друга чаще, чем жители разных районов. Благодаря этому сеть не просто запоминает картинки, а чувствует физику взаимодействий. Проверка показала: даже после небольшой донастройки модель отлично предсказывает поведение молекул, причём считает заметно быстрее аналогов.
Такой перенос знаний из физики высоких энергий в химию — редкость. Но если он работает, то у нас появляется универсальный инструмент: одна и та же архитектура понимает и субатомные частицы, и лекарственные молекулы. А значит, поиск новых материалов и препаратов может ускориться в разы.
как её написали авторы, на английском arXiv:2601.10791
We present OmniMol, a state-of-the-art all-to-all transformer-based small molecule machine-learned interatomic potential (MLIP). OmniMol is built by adapting Omnilearned, a foundation model for particle jets found in high-energy physics (HEP) experiments such as at the Large Hadron Collider (LHC). Omnilearned is built with a Point-Edge-Transformer (PET) and pre-trained using a diverse set of one billion particle jets. It includes an interaction-matrix attention bias that injects pairwise sub-nuclear (HEP) or atomic (molecular-dynamics) physics directly into the transformer's attention logits, steering the network toward physically meaningful neighborhoods without sacrificing expressivity. We demonstrate OmniMol using the oMol dataset and find excellent performance even with relatively few examples for fine-tuning. Further, due to architectural transfer from Omnilearned, we demonstrate uniquely fast inference. This study lays the foundation for building interdisciplinary connections given datasets represented as collections of point clouds.
Модель изначально обучалась на миллиарде «снимков» столкновений частиц — это как выучить миллиард фотографий салюта, чтобы потом различать узоры снежинок.
В сериале «Основание» Гэри Селдон предсказывал будущее цивилизаций по огромным массивам данных — здесь похожий подход работает для отдельных молекул.