Comment l'IA apprend à ne pas copier sur son voisin express
L'IA diagnostique apprend comme un étudiant en médecine avant l'examen. On lui donne une radiographie et les plaintes du patient. Mais parfois, parmi les supports de cours, se glisse le rapport complet du médecin — la réponse toute faite. Le réseau neuronal la mémorise, et sa précision au test bondit à 98 %. Mais c'est de la triche : la vraie compétence ne se développe pas.
Sans indices, la précision avec les seuls symptômes atteint 75 %. L'ajout de l'image donne 78 %. Mais une fuite de quelques mots du rapport peut doubler les performances, créant un « effet de clairvoyance » — l'IA semble géniale, mais seulement dans l'ensemble d'apprentissage. Les modèles honnêtes apprennent une fusion flexible des données, en éliminant les antisèches.
Même une petite fuite d'information du rapport futur dans les données d'apprentissage peut gonfler la précision de l'IA de moitié — c'est ce qu'on appelle l'« effet de clairvoyance ».