Un biais qui n'a pas besoin d'être appris express
Dans un entrepôt, des cartons de pommes et de poires. Les pommes sont nombreuses, les poires rares. Mais quand le magasinier dit « un fruit à la peau lisse », nous pensons plus souvent à la poire rare qu'à la pomme fréquente. C'est l'effet de taux de base inversé : un dérèglement persistant dans la façon dont le cerveau résout l'ambiguïté entre les catégories.
Pendant longtemps, on a cru que cela venait d'une erreur de prédiction : le cerveau se trompe, reçoit un signal d'écart et ajuste ses attentes. Mais les auteurs de l'étude sont allés plus loin : ils ont éliminé la possibilité même d'une telle erreur dans leurs expériences. D'abord, ils sont passés à un apprentissage par observation (la personne regarde simplement, sans faire de prédictions), puis ils ont retiré les indices avec les noms des catégories. L'effet n'a pas disparu.
C'est ainsi qu'est né le modèle OSCAR. Il fonctionne sur un retour d'information auto-généré — quelque chose comme une complétion interne d'une image. En voyant une partie des caractéristiques, le système complète lui-même l'ensemble et apprend de cette réponse interne. Le modèle a non seulement reproduit les résultats sur d'anciennes données, mais a aussi prédit les différences individuelles entre les personnes, et a pour la première fois expliqué des mouvements oculaires auparavant inexpliqués, enregistrés lors d'expériences.
L'effet de taux de base inversé est si robuste qu'il apparaît même chez les nourrissons qui ne savent pas encore parler — il semble s'agir d'une caractéristique profonde du fonctionnement cérébral, et non d'un sous-produit de l'apprentissage.
Dans le roman « Des fleurs pour Algernon », le protagoniste voit sa perception du monde changer après une amélioration de son intelligence — les distorsions de catégories et les biais, semblables à l'effet de taux de base inversé, pourraient expliquer pourquoi les décisions « intelligentes » et « stupides » s'entremêlent parfois de manière si étrange.