Ce que cache le modèle neutrino : la carte de la physique que le navigateur ne lit pas ✛ ✎

Original: "Finding and using interpretable latents in a neutrino foundation model with sparse autoencoders"
arXiv:2608.26090v1 · 2026-08-26 · arXiv non-exclusive · analyse indépendante · 1 min
À l'intérieur du modèle neutrino, on a trouvé une « bibliothèque » de caractéristiques physiques, mais la tête de direction ne l'utilise presque pas.

Lorsqu'un neutrino traverse la glace, il laisse un faible éclat de lumière. Le détecteur IceCube le capture, et le modèle PolarBERT doit deviner d'où vient la particule. Auparavant, on ne savait pas ce que le modèle voyait à l'intérieur.

Pour le découvrir, les chercheurs ont utilisé un autoencodeur sparse, un réseau de neurones qui extrait un petit nombre de caractéristiques significatives. Le résultat est un dictionnaire de 1024 « étagères », chacune contenant une idée physique. Par exemple, une étagère est responsable des événements lumineux et purs, une autre de la profondeur à laquelle l'éclat s'est produit.

Mais la tête de direction, qui devrait utiliser cette bibliothèque, n'y fait presque pas appel. La suppression de ces caractéristiques change la direction prédite de moins de 0,1°, comme si un navigateur ignorait une carte détaillée.

En revanche, l'autre tête, celle de l'incertitude, dépend causalement des caractéristiques lumineuses et pures. En l'entraînant, les scientifiques ont pu sélectionner les événements de manière à améliorer la précision de direction de 20,2° à 3,2° avec une sélection de 20 %. Désormais, il est clair que le modèle connaît la physique mais ne l'utilise pas pour sa tâche principale. Cela ouvre la voie à de nouvelles applications.

Le latent lumineux-pur ne s'active que sur 14 % des événements, mais c'est lui qui s'est avéré causal pour la tête d'incertitude, et non pour la tête de direction.

Notions
autoencodeur IA explicable analyse automatisée reconnaissance de formes reconstruction de données par réseaux de neurones apprentissage auto-supervisé transparence acquisition du langage neuronal transformeurs modèle de langage protéique référentiel modèle prédictif apprentissage par transfert