Au Grand collisionneur de hadrons, des millions de jets naissent chaque seconde : des flux de particules issus d'un quark ou d'un gluon. Distinguer un jet de quark top d'un jet de quark ordinaire est une tâche cruciale pour la chasse à la nouvelle physique. Les transformeurs neuronaux modernes le font avec une grande précision, mais au prix d'un nombre gigantesque de paramètres et de calculs. IAFormer propose une autre voie : au lieu d'écouter tous les intervenants dans la salle, le traducteur filtre le bruit de fond et se concentre uniquement sur les voix clés.
Dans un transformeur classique, chaque particule du jet est comparée à toutes les autres via le produit scalaire des requêtes et des clés. IAFormer remplace cela par une matrice apprise d'interactions par paires, qui dépend de grandeurs invariantes de Lorentz : la masse de la paire, la distance angulaire, l'impulsion transverse. L'attention est calculée comme la différence de deux copies de cette matrice avec un coefficient β que le réseau ajuste lui-même. β supprime la contribution des paires non pertinentes, et l'attention éparse ignore le rayonnement mou, c'est-à-dire le bruit de fond. En conséquence, le nombre de paramètres passe de 2,14 millions (pour le modèle ParT) à 211 000, et la précision sur la tâche de reconnaissance des quarks top atteint 0,942.
L'analyse d'interprétabilité montre que β augmente dans les premières couches puis diminue vers les dernières. Le réseau construit d'abord des variables collectives stables, puis élimine l'information superflue. Les cartes d'attention confirment qu'IAFormer extrait des structures physiquement significatives couche par couche, comme un bon traducteur qui saisit le sens général au début de la réunion et filtre les répétitions et le bruit à la fin.
Auparavant, on pensait que pour un étiquetage précis des jets, il fallait des millions de paramètres et des centaines de millions d'opérations. IAFormer a montré qu'une parcimonie physiquement motivée peut remplacer une paramétrisation redondante. Cela change notre conception de la complexité nécessaire des modèles et ouvre la voie à des architectures légères, rapides et interprétables pour l'analyse des données du LHC. Les expériences ATLAS et CMS, où la vitesse et la précision de la classification des jets sont cruciales, pourraient bénéficier de cette approche dès aujourd'hui.
Le nombre de FLOPs d'IAFormer (38 millions) est environ 8 fois inférieur à celui d'un transformeur standard (300 millions), alors que la qualité de classification est même supérieure. C'est comme si un traducteur qui ignore le bruit de fond travaillait plus vite et plus précisément qu'un collègue qui écoute tout.