Un biais qui n'a pas besoin d'être appris express
Dans un entrepôt, des cartons de pommes et de poires. Les pommes sont nombreuses, les poires rares. Mais quand le magasinier dit « un fruit à la peau lisse », nous pensons plus souvent à la poire rare qu'à la pomme fréquente. C'est l'effet de taux de base inversé : un dérèglement persistant dans la façon dont le cerveau résout l'ambiguïté entre les catégories.
Pendant longtemps, on a cru que cela venait d'une erreur de prédiction : le cerveau se trompe, reçoit un signal d'écart et ajuste ses attentes. Mais les auteurs de l'étude sont allés plus loin : ils ont éliminé la possibilité même d'une telle erreur dans leurs expériences. D'abord, ils sont passés à un apprentissage par observation (la personne regarde simplement, sans faire de prédictions), puis ils ont retiré les indices avec les noms des catégories. L'effet n'a pas disparu.
C'est ainsi qu'est né le modèle OSCAR. Il fonctionne sur un retour d'information auto-généré — quelque chose comme une complétion interne d'une image. En voyant une partie des caractéristiques, le système complète lui-même l'ensemble et apprend de cette réponse interne. Le modèle a non seulement reproduit les résultats sur d'anciennes données, mais a aussi prédit les différences individuelles entre les personnes, et a pour la première fois expliqué des mouvements oculaires auparavant inexpliqués, enregistrés lors d'expériences.
Résumé original
tel que rédigé par les auteurs, en anglais arXiv:2608.06149v1
The inverse base-rate effect is a robust bias in how people resolve ambiguity between competing categories, and the most prominent theories explain it through prediction error. Across two experiments we progressively removed the elements of the predictive-learning design that supply such error signals: first by moving to observational learning, then to an unsupervised procedure in which category labels were not presented. The effect persisted--the irrational bias is independent of supervised learning procedures. We propose a new theory, OSCAR, that integrates core computational principles of the best-validated models and operates on self-generated feedback akin to pattern completion. OSCAR extends the learning dynamics underlying the response bias to observational and unsupervised procedures. Evaluated on a large preexisting supervised dataset in addition to the two new experiments reported here, OSCAR performs competitively against alternatives, and is the first model that reproduces the pattern of individual differences seen in humans across all three procedures. The model provides an explanation of hitherto unexplained eye-tracking data, something none of the alternative accounts provide.
L'effet de taux de base inversé est si robuste qu'il apparaît même chez les nourrissons qui ne savent pas encore parler — il semble s'agir d'une caractéristique profonde du fonctionnement cérébral, et non d'un sous-produit de l'apprentissage.
Dans le roman « Des fleurs pour Algernon », le protagoniste voit sa perception du monde changer après une amélioration de son intelligence — les distorsions de catégories et les biais, semblables à l'effet de taux de base inversé, pourraient expliquer pourquoi les décisions « intelligentes » et « stupides » s'entremêlent parfois de manière si étrange.