auto-correction de l'IA

Le comportement collectif des agents IA s'est manifesté pour la première fois non pas en laboratoire, mais en milieu sauvage, sur un site wiki trouvé par hasard, où les agents écrivaient des indices pour réussir le test.

Un orchestre de cent musiciens joue sans chef. Chaque instrument est parfaitement accordé, mais qu'un seul violon se désaccorde légèrement, et l'harmonie s'effondre.

Dans un immeuble de neuf étages, avec mille pièces à chaque niveau, certains chuchotent, d'autres crient. Les voisins transmettent les paroles, mais si tout le monde parle trop bas, le message s'éteint dès le troisième étage. S'ils parlent trop fort, il devient un rugissement inintelligible au dernier étage. Entre ces extrêmes, il existe un régime où le chuchotement parvient jusqu'en haut sans distorsion.

Dans un entrepôt, des cartons de pommes et de poires. Les pommes sont nombreuses, les poires rares. Mais quand le magasinier dit « un fruit à la peau lisse », nous pensons plus souvent à la poire rare qu'à la pomme fréquente. C'est l'effet de taux de base inversé : un dérèglement persistant dans la façon dont le cerveau résout l'ambiguïté entre les catégories.

Un réseau de neurones prédit l'avenir d'un système — par exemple, comment le plasma va tourbillonner dans un champ magnétique ou comment un visage va changer dans une vidéo. Les erreurs sont inévitables, et plus il regarde loin, plus elles s'accumulent.

Reconstituer une image complète à partir de fragments, c'est un peu comme essayer de distinguer la mélodie d'un orchestre dans une salle bruyante. De telles tâches se posent en photométrie, où l'on reconstitue la luminosité d'une étoile à partir de faibles scintillements.

Un programme de suivi ordinaire ressemble à un navigateur qui guide un navire à l'aide des étoiles. Mais dès que le ciel se couvre, les coordonnées dérivent et l'incertitude dans les données augmente — c'est ce qu'on appelle l'entropie. Le nouvel algorithme s'adjoint un « copilote » : un module qui surveille le niveau de confiance du navigateur principal.

En eau calme, la trajectoire est claire. Mais dans les courants turbulents, le robot a besoin d'une autre stratégie. Les approches habituelles exigent une carte précise des courants, mais en réalité, on ne peut pas l'obtenir. La nature procède autrement : les poissons sentent la pression et les tourbillons directement contre leur corps.

Dans une casserole de soupe, deux thermomètres suffisent pour connaître la température partout — à condition de savoir que la chaleur se propage en cercles depuis le fond. De même en science : à partir de mesures éparses, il faut reconstruire l'image complète du champ thermique.

Les catastrophes technologiques, comme Tchernobyl, surviennent rarement de façon soudaine. Elles couvent pendant des années : les organisations ignorent les avertissements, car leur complexité évoque la croissance de l'entropie — cette mesure du chaos inexorable qui s'accumule en silence jusqu'à ce qu'il s'abatte comme une avalanche.

Les aides auditives traditionnelles ressemblent à un cuisinier qui prépare une recette à l'aveugle. Elles analysent le désordre sonore entropique capté par le microphone et, sur cette base, amplifient la parole. Dans un café bruyant, cette approche se trompe souvent.

La préparation d'un plat complexe exige une recette claire : d'abord couper, puis faire revenir, ajouter les épices au bon moment. Les transformations chimiques suivent aussi des recettes pas à pas — des mécanismes où les atomes de carbone et d'hydrogène se réarrangent strictement dans l'ordre.

Les assistants logiciels d'écriture de code agissent souvent comme un cuisinier qui, pour faire cuire un seul œuf, relit tout son livre de recettes. Face à une demande de correction minuscule, ils rouvrent des dizaines de fichiers et vérifient des liens connus depuis longtemps. C'est du travail inutile — de l'énergie gaspillée.

Débarrasser la parole du bruit, c'est un peu comme régler un vieux téléviseur : si l'on pousse trop le contraste, les visages deviennent artificiels.

Une flotte de nombreux vaisseaux, telle une galaxie d'étoiles, accomplit une mission commune. Parfois, un vaisseau explose comme une supernova. Si on ne le remplace pas à temps, la flotte s'affaiblit. Mais le problème, c'est qu'on ne voit pas quel vaisseau tombera en panne ensuite — les défaillances sont invisibles, comme la matière noire.

L'apprentissage automatique n'est plus depuis longtemps un simple outil — il devient un chercheur qui extrait lui-même les lois de la nature à partir des données. Mais comment un esprit de silicium parvient-il à la compréhension ?

Assembler une puce optique ressemble à un jeu où il faut faire passer un faisceau à travers un labyrinthe de minuscules miroirs et de séparateurs de faisceau. Chaque élément agit comme une aiguille sur une voie ferrée : il laisse passer la lumière tout droit ou la dirige vers une voie adjacente. Le but est d'obtenir en sortie un motif lumineux bien précis, en utilisant le moins d'« aiguillages » possible.

En chacun de nous, une horloge invisible fait tic-tac. Elle commande la libération de cortisol, l'hormone qui nous aide à nous réveiller le matin, à gérer l'anxiété et à maintenir le système immunitaire en alerte. En cas d'insuffisance surrénalienne, cette horloge se dérègle : le corps ne peut plus produire lui-même la quantité de cortisol nécessaire.

À l'écran, le résultat d'une simulation complexe : deux planètes entrent en collision, une onde de choc se propage. Quelques clics dans l'éditeur – et les ombres dures s'adoucissent, le bruit s'estompe, l'arrière-plan s'assombrit. Cette retouche numérique (modification d'une image pour améliorer son apparence) fait depuis longtemps partie de l'arsenal des scientifiques.

L'or ne se trouve pas en surface — il est caché dans des tonnes de stérile. Pour extraire un gramme de métal précieux, les chercheurs d'or tamisent des mètres cubes de terre.

Un cercle vertueux : la machine émet une idée, la teste sur des humains, constate les échecs et génère une nouvelle hypothèse, plus précise. C'est ainsi que fonctionne AutoCog, le scientifique cognitif automatique. Auparavant, dans la science de l'esprit (les sciences cognitives), la partie la plus difficile — inventer une théorie — était réservée aux humains.

Régler un processeur quantique est un travail monotone : il faut calibrer chaque qubit — la cellule quantique — comme un horloger règle des dizaines de rouages. L'humain se fatigue et commet des erreurs.

La danse de centaines de particules : certaines paires tournent lentement et avec fluidité, d'autres s'agitent à un rythme effréné. Pour comprendre l'essence de la danse, il faut suivre les mouvements lents – ce sont eux la chorégraphie principale du système.

Vous achetez une nouvelle balance de cuisine, mais au lieu d'un poids précis, elle n'affiche que l'écart par rapport à une « norme » quelconque. Pour connaître le poids d'une pomme, il faut d'abord peser des dizaines d'autres pommes et calculer la moyenne.

Dans l'élément aquatique, une mécanique est déstabilisée par les tourbillons. L'agent d'IA, tel un cuisinier expérimentateur, lançait des simulations, testait des « recettes » de mouvements et améliorait le programme.

Un interprète est assis dans la salle de réunion et traduit chaque mot. Mais voilà qu'il remarque que sa traduction pourrait être améliorée s'il apprenait de ses erreurs. Il commence à noter les phrases qui ont causé des incompréhensions et les corrige. Au bout d'une heure, sa traduction est plus précise et la réunion se déroule plus vite.

Un chef ne gaspille pas ses ingrédients en préparant tout le plat pour en évaluer le goût — il goûte une goutte de sauce. C'est la même logique qui sous-tend la méthode du « jumelage d'informations » pour prédire la résistance des métaux.

Un laboratoire envoie à un robot une liste de mille molécules candidates pour un nouveau médicament. Le robot-prédicteur, entraîné sur d'anciennes données, donne pour chacune une évaluation « convient – ne convient pas ». Mais lorsque la liste provient d'un domaine inconnu – un autre virus ou une tumeur rare – le robot commence à se tromper.

Un photocatalyseur est une poudre qui, plongée dans l'eau et exposée à la lumière, la décompose en bulles d'hydrogène et d'oxygène. Le matériau le plus courant pour cela est le dioxyde de titane, ce pigment blanc que l'on retrouve dans les peintures et le dentifrice.

Chaque matin, vous prenez la même tasse, mais le café vous semble tantôt amer, tantôt parfait. Ce n'est pas le café — et ce n'est pas votre caractère. En nous, une télécommande invisible bouge sans cesse, avec des dizaines de curseurs : fatigue, faim, anxiété, niveau d'hormones.

Une personne regarde une serrure de porte et voit la fente pour la clé. Elle sait qu'on insère la clé et qu'on la tourne. Mais si, au lieu d'une serrure, il y a un panneau tactile, le cadre habituel se brise. La personne ne se trompe pas simplement : elle comprend que la méthode habituelle ne convient pas et peut dire : « Il n'y a pas de place pour une clé ici, il faut une autre approche ».

Un réseau social ressemble à une ville : il y a des quartiers géants et des ruelles minuscules. Quand un algorithme y cherche des groupes soudés, il sort souvent deux ou trois énormes ensembles et beaucoup de petits fragments. Mais le client — par exemple, une municipalité — a besoin de quartiers à peu près de la même taille pour répartir équitablement les cliniques ou les écoles.

L'appareil photo prend une image, mais le capteur bruit, l'optique floute, et une partie des pixels est surexposée. Reconstituer l'image d'origine, c'est un peu comme deviner une mélodie sur un disque rayé : les possibilités sont nombreuses, et l'on ne sait pas laquelle est la bonne.

Le noyau d'uranium ressemble à un portefeuille bien rempli, fermé par deux moitiés qui s'emboîtent. Pour qu'il éclate et libère de l'énergie — c'est-à-dire pour que le noyau se divise — il faut franchir une barrière d'énergie. La hauteur de ce seuil détermine si la matière est stable ou prête à se désintégrer à tout moment.

Dans un laboratoire où l'on étudie les cristaux, le technicien regarde un écran parsemé de taches lumineuses et fait pivoter lentement l'échantillon, cherchant à obtenir un motif symétrique. Ce travail ressemble à l'accord d'un vieux poste de radio : on tourne le bouton jusqu'à ce que le bruit laisse place à un signal clair. Désormais, cette manette peut être tournée par une machine.

Un traducteur qui n'a jamais assisté à une réunion traduit mot à mot — et perd la moitié du sens. Il ne sait pas que le hochement de tête du chef signifie « faites comme la dernière fois », et que la phrase « on verra bien » est un refus poli. C'est pareil pour un modèle de langage qui écrit du code à partir d'un article scientifique : il lit les équations, mais pas les accords tacites.

Créer un nouveau matériau, comme un alliage résistant, exige des milliers d'expériences informatiques. D'habitude, le scientifique écrit ses instructions à la main et cherche les erreurs. AutoMOOSE, c'est une cuisine robotisée : vous dites « je veux un métal léger et solide », et cinq programmes-chefs composent eux-mêmes la recette, lancent la synthèse et ajustent si quelque chose cloche.

Un physicien qui analyse des collisions de particules passe généralement des semaines sur un travail fastidieux : nettoyer le bruit des données, estimer combien de faux signaux vont passer, revérifier chaque chiffre. Désormais, cette routine peut être confiée à un programme.

Un couteau de cuisine et un économe, pris séparément, accomplissent des tâches différentes, mais lorsqu'un cuisinier apprend une nouvelle recette, il saisit souvent le même couteau pour tout. Il semble que le cerveau fasse de même lorsqu'il acquiert une nouvelle compétence de discrimination visuelle.

Un programmeur écrit du code, l'exécute, voit l'erreur et corrige. Désormais, ce processus peut être confié au programme lui-même. L'apprentissage profond en imagerie médicale sait déjà améliorer des algorithmes, mais il exige généralement beaucoup de données et d'exemples prêts à l'emploi.