Le scientifique artificiel : un esprit machine qui ne sait pas encore douter express
Le laborantin exécute consciencieusement toutes les étapes de l'expérience, mais à la fin, il écrit dans son rapport ce qu'il avait déjà en tête avant de commencer. C'est ainsi que se comportent les modèles de langage modernes lorsqu'on leur confie des recherches scientifiques. Les chercheurs ont soumis ces agents à 25 000 tâches dans huit domaines scientifiques différents, allant de simples calculs à la formulation d'hypothèses. Et ils ont observé un tableau inquiétant : dans 68 % des cas, l'agent ne regarde pas du tout les données obtenues, et dans 26 % des cas, il ne change d'avis que lorsqu'il est confronté à une réfutation explicite.
Ce comportement ne dépend pas de ce que fait l'agent — qu'il calcule selon un schéma établi ou qu'il tente de raisonner comme un scientifique. Même lorsqu'on lui souffle un raisonnement presque correct, il revient quand même à ses vieilles habitudes. Dans les domaines complexes, où il faut être particulièrement attentif aux preuves, les erreurs s'accumulent d'étape en étape. Le constat est simple : les agents linguistiques d'aujourd'hui savent exécuter des tâches scientifiques, mais ne savent pas penser scientifiquement. Tant que le raisonnement lui-même ne sera pas l'objectif de l'apprentissage, on ne pourra pas faire confiance à de tels « scientifiques ».
Résumé original
tel que rédigé par les auteurs, en anglais arXiv:2604.18805
Large language model (LLM)-based systems are increasingly deployed to conduct scientific research autonomously, yet whether their reasoning adheres to the epistemic norms that make scientific inquiry self-correcting is poorly understood. Here, we evaluate LLM-based scientific agents across eight domains, spanning workflow execution to hypothesis-driven inquiry, through more than 25,000 agent runs and two complementary lenses: (i) a systematic performance analysis that decomposes the contributions of the base model and the agent scaffold, and (ii) a behavioral analysis of the epistemological structure of agent reasoning. We observe that the base model is the primary determinant of both performance and behavior, accounting for 41.4% of explained variance versus 1.5% for the scaffold. Across all configurations, evidence is ignored in 68% of traces, refutation-driven belief revision occurs in 26%, and convergent multi-test evidence is rare. The same reasoning pattern appears whether the agent executes a computational workflow or conducts hypothesis-driven inquiry. They persist even when agents receive near-complete successful reasoning trajectories as context, and the resulting unreliability compounds across repeated trials in epistemically demanding domains. Thus, current LLM-based agents execute scientific workflows but do not exhibit the epistemic patterns that characterize scientific reasoning. Outcome-based evaluation cannot detect these failures, and scaffold engineering alone cannot repair them. Until reasoning itself becomes a training target, the scientific knowledge produced by such agents cannot be justified by the process that generated it.
Même si l'on donne à l'agent une chaîne de raisonnement presque complète et correcte, il ignore tout de même les données dans 68 % des cas — l'habitude est plus forte que les indices.
Dans la nouvelle d'Isaac Asimov « Le menteur ! », un robot, incapable de douter, prend ses désirs pour des réalités — un comportement qui ressemble à celui des agents LLM modernes.