En étudiant les étoiles à neutrons — les restes ultra-denses de géantes explosées — les astronomes cherchent des indices dans les ondes gravitationnelles : les frémissements de l'espace nés lors de l'effondrement. Des détecteurs comme LIGO captent ces ondulations grâce à des mesures laser d'une précision extrême. Les programmes d'apprentissage automatique doivent déduire les propriétés de la matière interne à partir de la forme de l'onde. Mais le test standard crée une impression trompeuse de succès — comme un cuisinier qui aurait appris le menu par cœur mais serait incapable de préparer quelque chose de nouveau.

Après avoir créé un catalogue de simulations numériques d'explosions avec différentes matières, les chercheurs ont effectué un test classique : ils ont mélangé les données et en ont caché une partie — la précision a atteint 70%. Mais dès qu'ils ont exclu une classe entière de matière, le programme a échoué : ses prédictions sont devenues pires qu'un hasard. L'algorithme ne mémorisait pas la physique, mais les formes spécifiques de l'onde.

Lorsque la tâche a été simplifiée pour déterminer la masse de l'étoile progénitrice, le programme a appris à généraliser. C'est un avertissement pour les futurs détecteurs : il faut des tests sur des modèles jamais vus auparavant. Sinon, l'algorithme intelligent restera un cuisinier dressé, incapable d'improviser.