L'électrocardiogramme n'est pas qu'une ligne ondulée sur du papier. Comme un journal intime, il consigne l'état de tout le cœur : le rythme, l'épaisseur des parois, et les indices de problèmes futurs. Mais aujourd'hui, les programmes qui apprennent à lire ce journal sont entraînés sur des tâches très étroites — principalement la recherche de troubles du rythme. C'est comme apprendre à quelqu'un à comprendre un livre en ne lui montrant qu'une liste de coquilles.
Les auteurs de l'étude ont voulu vérifier l'honnêteté de l'évaluation de ces programmes. Ils ont pris cinq approches d'apprentissage populaires et les ont soumises à six examens différents : trois standards (ceux qui cherchent les arythmies), et trois nouveaux — la recherche de maladies structurelles du cœur, l'évaluation de la pression à l'intérieur du cœur, et le pronostic de l'état futur du patient. Résultat : aux anciens examens, tout le monde obtient de bons scores, mais aux nouveaux, le tableau change. De plus, il s'est avéré que un ensemble aléatoire de nombres, qui n'a jamais appris, fonctionne aussi bien que des algorithmes entraînés dans de nombreuses tâches. C'est comme si une personne qui ne connaît pas la langue devinait le sens d'un livre par sa couverture — et tombait juste aussi souvent qu'un expert.
Que proposent les auteurs ? D'abord, élargir la liste des tâches : ajouter la recherche de modifications structurelles du cœur (par exemple, l'épaississement des parois) et le pronostic — ce qui arrivera au patient avec le temps. Ensuite, toujours comparer le résultat avec un simple « élève » aléatoire. Si un programme intelligent ne dépasse pas le leurre, son succès ne signifie rien. C'est comme dans le sport : un record n'est homologué que s'il bat le résultat d'un débutant.
Cette approche pourrait transformer tout le domaine : au lieu de courir après de beaux chiffres sur des tests étroits, les scientifiques commenceront à résoudre des problèmes réellement importants pour les médecins et les patients. L'électrocardiogramme est une source d'information trop précieuse pour la gaspiller à deviner des coquilles.
Un ensemble aléatoire de nombres, qui n'a jamais vu un seul électrocardiogramme, obtient sur certaines tâches médicales des résultats aussi bons que des algorithmes entraînés sur des milliers d'enregistrements.