Affiner un réseau de neurones, c'est un peu comme essayer de modifier un trou noir sans toucher à son horizon des événements : on ne change qu'une petite partie des paramètres. Les chercheurs ont regardé à l'intérieur et ont vu des motifs surprenants — de fortes connexions entre les morceaux du modèle, comme dans l'intrication quantique. En mesurant l'entropie (la mesure du chaos), ils ont découvert une « vallée d'intrication » — une chute brutale de l'ordre qui dépend de la méthode d'apprentissage.
En pratique, cela signifie : peu importe les motifs internes, c'est le comportement externe qui compte. On peut donc développer des méthodes légères d'adaptation de l'IA sans entrer dans les détails.
Le théorème « d'absence de cheveux » : un trou noir n'est décrit que par sa masse, sa charge et sa rotation. Toute autre information sur la matière absorbée est effacée.