méthode

apprentissage par transfert

Une technique d'apprentissage automatique où les connaissances acquises lors d'une tâche sont appliquées à une tâche différente mais connexe.
45 articles liés

Description

L'apprentissage par transfert est une stratégie d'apprentissage automatique où un modèle entraîné sur une tâche est réutilisé comme point de départ pour une seconde tâche connexe. Au lieu d'entraîner le modèle à partir de zéro, celui-ci conserve les caractéristiques et les motifs appris dans le premier domaine, ce qui accélère souvent l'entraînement et améliore les performances, surtout lorsque les données pour la tâche cible sont rares. En physique, l'apprentissage par transfert est devenu un outil puissant pour appliquer des réseaux de neurones entraînés sur des données simulées ou synthétiques à des données expérimentales réelles, ou pour adapter des modèles d'un système matériel à un autre.

Histoire

Le concept d'apprentissage par transfert a émergé dans les années 1990 au sein de la communauté de l'apprentissage automatique, avec des cadres formels proposés par Lorien Pratt et d'autres. Il a gagné en popularité après 2012, lorsque des réseaux convolutifs profonds pré-entraînés sur ImageNet ont été affinés avec succès pour d'autres tâches visuelles.

Comment ça marche

L'approche typique comporte deux étapes : le pré-entraînement et l'ajustement fin. Pendant le pré-entraînement, un réseau de neurones apprend des représentations générales à partir d'un grand ensemble de données souvent générique—par exemple, des images ou des spectres provenant de nombreux matériaux différents. Lors de l'ajustement fin, les poids du réseau sont légèrement modifiés à l'aide d'un ensemble de données plus petit et spécifique à la tâche. Les couches antérieures, qui capturent des caractéristiques de bas niveau comme les bords ou les pics spectraux, sont souvent figées, tandis que les couches ultérieures sont réentraînées pour mapper ces caractéristiques à la nouvelle tâche. Cela fonctionne car de nombreux systèmes physiques partagent des structures sous-jacentes communes, de sorte que les caractéristiques apprises se transfèrent efficacement.

En pratique

En physique, l'apprentissage par transfert est utilisé pour entraîner des réseaux de neurones qui prédisent les propriétés des matériaux à partir de données expérimentales limitées, pour accélérer la planification des doses en radiothérapie, et pour adapter des modèles d'une configuration d'accélérateur de particules ou de réacteur à une autre.

Anecdote

L'apprentissage par transfert est la raison pour laquelle les modèles d'IA modernes peuvent être entraînés sur des ensembles de données génériques massifs puis spécialisés pour des tâches de niche avec seulement quelques centaines d'exemples, un processus qui nécessiterait autrement des millions d'échantillons étiquetés.

Concept graph →

Articles liés · 42

Triple connexion : comment le cerveau assemble les régions par trois
Un trio de jazz joue dans la pénombre d'un club. Le pianiste mène la mélodie, le contrebassiste tient le rythme, le batteur disperse ses roulements. Si l'on n'écoute que les paires de musiciens, on peut saisir comment le pianiste s'adapte à la basse ou la basse à la batterie.
L'atlas de la physique interne d'un modèle de neutrinos : une bibliothèque que son destinataire ne lit pas
Dans la glace antarctique, une particule fantôme ne laisse qu'un faible éclat de lumière bleue. Le détecteur IceCube capture ces éclats, et à partir d'eux, il faut déterminer d'où vient la particule. Le modèle PolarBERT a appris à le faire, mais ce qu'il voit réellement à l'intérieur restait un mystère.
Un film de bore pour la chaudière à fusion
Un réacteur à fusion, c'est comme un four surchauffé où le plasma atteint des millions de degrés. Les parois d'un tel four sont en tungstène : c'est le métal le plus réfractaire qui soit. Mais même le tungstène ne résiste pas sans protection : les particules rapides du plasma bombardent la surface et en arrachent des atomes.
Comment apprendre à un appareil à lire la composition chimique d'un seul coup d'œil
L'appareil éclaire l'échantillon avec un faisceau infrarouge, et les molécules répondent par leur motif d'absorption — comme des clochettes de tons différents. Ce motif, le spectre, contient des informations sur la composition chimique.
Le mouvement influence les décisions
On lance une pièce pour prendre une décision. On reste immobile — la pièce tombe sur pile. On fait quelques pas — et on relance. On pourrait penser que la marche n'influence pas la pièce. Mais que se passerait-il si la promenade elle-même modifiait la fréquence à laquelle on décide de simplement répéter le lancer précédent ? C'est exactement ce que les chercheurs ont testé.
La poste à l'intérieur du neurone : comment les molécules trouvent leurs destinataires
Dans les prolongements longs du neurone — les dendrites — de minuscules coursiers vont et viennent sans cesse. Ce sont des molécules d'ARN messager qui portent les instructions pour la fabrication des protéines. Leur trajet commence dans le corps cellulaire et se termine aux synapses — les contacts avec d'autres neurones.
Géophysique2026-07-233 minarXiv:2607.21854express
L'écho sismique révèle des flux invisibles
Un bac de sable mouillé. Vous appuyez dans un coin — et l'eau se met en mouvement. Mais comment exactement ? Au lieu d'un cercle régulier, elle peut s'étaler en langues, s'attarder longtemps à certains endroits et filer rapidement à travers d'autres.
Pourquoi les gènes brouillent l'arbre généalogique
Le livre de recettes se réécrit de génération en génération, mais un jour, la recette du bortsch reçoit un ingrédient secret d'un pâtissier. Dès lors, le goût ne se souvient plus seulement des ancêtres, mais aussi du voisin. Dans le modèle standard de l'évolution, les gènes se comportent de la même manière.
Traitement du signal2026-07-161 minarXiv:2607.14938express
Où es-tu ? Les ondes radio le savent
Les signaux radio dans une pièce se comportent comme le son dans une salle de concert : en se réfléchissant sur les murs et les objets, ils créent une empreinte unique — la mélodie silencieuse de chaque lieu. Le téléphone, telle une oreille attentive, capte cette mélodie dans le bruit et les distorsions. Il mémorise quel accord correspond au coin du canapé, et lequel à l'embrasure de la porte.
Robotique2026-07-162 minarXiv:2607.15129express
Robot jongleur : un duo rythmé avec l'humain
Le robot jongleur attrape et lance des balles en parfaite cadence avec l'humain, tels deux pulsars émettant leurs impulsions à l'unisson. Jongler avec trois balles, c'est le classique «cascade», un enchaînement régi par une pulsation régulière, semblable à la rotation d'un phare cosmique. Que l'on casse le rythme, et le motif s'effondre.
Un drone imitateur contourne les trous noirs de l'incertitude
Quand un drone apprend d'un pilote expérimenté, il ne mémorise pas seulement des manœuvres, mais des couloirs de sécurité entiers. Mais en vol réel, il y a toujours des facteurs absents de l'entraînement : un vent inattendu, des vibrations de la caméra, même le mouvement propre du drone peut déstabiliser l'air.
Robotique2026-07-151 minarXiv:2607.13553express
Comment un robot apprend à nager dans le chaos des courants
En eau calme, la trajectoire est claire. Mais dans les courants turbulents, le robot a besoin d'une autre stratégie. Les approches habituelles exigent une carte précise des courants, mais en réalité, on ne peut pas l'obtenir. La nature procède autrement : les poissons sentent la pression et les tourbillons directement contre leur corps.
Le jumeau numérique : comment les comportements invisibles changent les plans
Dans tout projet urbain, le comportement des habitants est une force invisible dont dépend le succès. Un voisin hésitant peut ralentir l'installation de panneaux solaires dans tout un quartier : sa prudence déclenche une croissance du désordre.
Traitement du signal2026-07-141 minarXiv:2607.12744express
Un réseau de neurones avec un sens de la position améliore les communications
Sur une cuisinière à gaz, chaque brûleur chauffe différemment. Si le cuisinier déplace les casseroles, la nourriture peut brûler. Il en va de même dans un réseau sans fil : les antennes-brûleurs et les utilisateurs-casseroles nécessitent un placement précis. Les réseaux de neurones classiques ne distinguent pas les positions, considérant tous les brûleurs comme identiques.
Double indice : comment les smartphones apprennent sans accroc
Quand vous tapez « salade » et que le clavier propose « césar », en coulisses, des millions de téléphones apprennent ensemble à prédire les mots. Ils n'échangent pas vos messages, mais seulement les améliorations de l'algorithme commun — comme un entraîneur qui envoie aux athlètes uniquement les changements au programme : « ajoutez 5 pompes à ceux d'hier ».
Un départ tout chaud pour le moteur quantique : comment l'apprentissage automatique accélère les calculs de molécules
La DFTB, c'est le train à grande vitesse de la chimie quantique : des centaines de fois plus rapide que la DFT classique, mais toujours sur des rails électroniques. Cependant, son moteur — l'auto-cohérence itérative des charges — ressemble parfois à un orchestre où chaque instrument commence sur une note arbitraire.
Extinction dans chaque monde, mais survie grâce aux bascules
Un coureur perd sur un stade lisse comme sur du sable mou. Aucune chance, semble-t-il. Mais si la piste sous ses pieds change toutes les quelques secondes — tantôt le stade, tantôt le sable — le coureur cesse soudain de prendre du retard. Il ne devient pas plus rapide ; simplement, le milieu n'a pas le temps d'« achever » sa faiblesse.
Physique des plasmas2026-07-051 minarXiv:2607.04390express
Vision numérique pour un réacteur à fusion
À l'intérieur d'un réacteur à fusion, le plasma fait rage — un gaz chauffé à des millions de degrés. Il n'y a pas de fenêtres directes, et les caméras et capteurs tombent rapidement en panne. Les ingénieurs ne voient que des bribes d'information : quelques capteurs à différents endroits.
Comment le cerveau partage l'expérience entre les tâches
Le cerveau n'apprend pas chaque tâche à partir de zéro : il transfère l'expérience d'une activité à une autre. Mais comment savoir quelles tâches sont réellement apparentées ? Les neuroscientifiques ont eu une idée astucieuse : laisser un réseau artificiel « observer » l'activité cérébrale pendant une tâche, puis tenter de prédire l'activité pendant une autre.
La ville comme organisme : les leçons de la nature pour des routes sans embouteillages
La ville respire et se nourrit, son sang circule dans les routes. Mais tandis que les ingénieurs tracent des lignes droites, la nature peaufine depuis des millions d'années le réseau idéal : les rivières trouvent infailliblement leur chemin vers la mer, la feuille est parcourue de nervures sans un seul vaisseau superflu.
Les étoiles à neutrons révèlent leurs secrets grâce aux ondes gravitationnelles
Deux étoiles ultra-denses tournent l'une autour de l'autre et finissent par entrer en collision. Cette danse ne dure que quelques instants, mais elle génère de puissantes ondulations dans l'espace — les ondes gravitationnelles.
Comment pister un invisible venu de l'espace
Le satellite MethaneSAT traque les fuites de méthane — un gaz invisible mais qui réchauffe fortement la planète. Son « nez » est un spectromètre, un instrument qui détecte le plus infime changement de couleur de la lumière traversant l'atmosphère. C'est la trace que laisse le méthane.
Des réseaux où les liens se lient par trois
À une fête, les invités ne discutent pas seulement en tête-à-tête, ils se rassemblent en petits cercles selon leurs centres d'intérêt : trois discutent cinéma, quatre parlent sport. Un schéma d'amitiés classique, comme la liste de contacts d'un téléphone, ne peut pas capturer cela — il ne voit que les liens « un à un ».
Physique chimique2026-04-293 minarXiv:2604.27070express
Un réseau de neurones apprend à lire les molécules grâce à l'empreinte du carbone
Chaque atome de carbone dans une molécule porte un passeport : l'énergie avec laquelle ses électrons les plus profonds restent sur leurs orbites. Cette énergie réagit finement à l'environnement : qu'un oxygène ou une double liaison apparaisse à proximité, et le chiffre du passeport change.
Comment un réseau de neurones lit le dossier médical
Un médecin tient dans ses mains une pile d'analyses effectuées à différents moments. Pris isolément, chaque feuillet n'est qu'une photographie d'un jour donné, alors qu'on aimerait voir un film entier sur le développement de la maladie. Le réseau de neurones Tempo apprend à assembler ces images disparates en une séquence fluide.
Des ailes en une minute : comment l'IA est devenue un génie de l'aérodynamique
Former un modèle aérodynamique précis, c'est un peu comme la cuisine : d'abord, le chef apprend des centaines de recettes pour saisir les principes généraux, puis il perfectionne facilement un plat particulier.
Étiquettes pour graphes : quand l'approche quantique cède le pas à la simplicité
Plan d'une ville : les intersections sont les nœuds, les rues les connexions. Pour que l'algorithme comprenne la structure, chaque nœud doit être étiqueté. L'approche classique — modèle standard — attribue des étiquettes simples, comme des numéros de maisons.
Un physicien universel issu d'une expérience étrangère
Un réseau de neurones entraîné sur des collisions de protons et d'électrons a transféré ses compétences à une expérience totalement différente : la capture de neutrinos. Comme un cuisinier qui aurait appris la cuisine française puis, sans préparation, réussirait un excellent plov ouzbek.
Physique médicale2026-04-101 minarXiv:2604.09157express
La radiothérapie s'accélère : la dose en quelques secondes
La radiothérapie du cancer de la prostate exige un calcul précis de la dose d'irradiation en chaque point du corps. La méthode classique de Monte-Carlo simule des millions de particules et prend des heures, alors que pour adapter le plan aux changements quotidiens de l'anatomie, il faut des secondes.
Physique numérique2026-04-052 minarXiv:2604.04089express
Quand le code ne naît pas de l'article
Un traducteur qui n'a jamais assisté à une réunion traduit mot à mot — et perd la moitié du sens. Il ne sait pas que le hochement de tête du chef signifie « faites comme la dernière fois », et que la phrase « on verra bien » est un refus poli. C'est pareil pour un modèle de langage qui écrit du code à partir d'un article scientifique : il lit les équations, mais pas les accords tacites.
Un réseau de neurones apprend à sentir la Terre
Les sismologues écoutent la Terre comme un médecin écoute un cœur. Les ondes de surface des tremblements de terre se propagent à travers la planète, et leur vitesse permet de déduire ce qui se cache sous nos pieds : roche solide, magma ou eau. Habituellement, on construit pour cela des modèles physiques complexes.
L'IA découvre des matériaux qui conduisent à peine la chaleur
La chaleur traverse la matière comme l'eau dans des tuyaux : parfois vite, parfois à peine. Les ingénieurs recherchent des matériaux qui laissent passer très peu de chaleur — comme des tuyaux bouchés. Ces isolants sont essentiels pour économiser l'énergie et pour les dispositifs qui transforment la chaleur en électricité.
Comment le flux dans un réacteur se divise en îles
Si vous remuez du sucre dans un verre, on dirait que l'eau bouge dans tous les sens. Mais à l'intérieur d'un réacteur chimique avec agitateur, le liquide ne fait pas que bouillonner : il forme des « îles » cachées qui n'échangent presque pas leur contenu. Des scientifiques ont trouvé un moyen de voir ces îles en suivant les trajectoires de minuscules particules.
Batteries solides : le secret n'est pas dans le volume de données
Dans une batterie ordinaire, l'électrolyte est liquide et les particules chargées (les ions) se déplacent librement. Dans la version solide, elles se faufilent à travers des « couloirs » atomiques, comme des piétons dans des passages étroits. Pour que la batterie fonctionne vite, il faut un matériau avec une bonne conductivité ionique.
Apprendre à un réseau de neurones avec moins de données, mais intelligemment
Les protéines dans la nature, c'est comme les grains de sable sur une plage, et chacune a son rôle : certaines décomposent les aliments, d'autres construisent les cellules. Mais pour comprendre ce que fait précisément une protéine, il faut l'étudier en laboratoire — ce qui est lent et coûteux.
Comment un réseau de neurones prédit l'inédit
Un écoulement turbulent dans un tuyau et les oscillations d'un pendule semblent très différents. Mais ils ont un point commun : tous deux obéissent à leurs propres lois du mouvement, qui peuvent être décrites par des nombres.
Géophysique2026-02-021 minarXiv:2602.01730express
Le Rubik's Cube des profondeurs : comment les minéraux se réorganisent sous pression
Tout comme l'eau gèle en glace ou s'évapore, la forstérite dans le manteau terrestre, sous des pressions de milliers d'atmosphères, réassemble son motif atomique — telle un Rubik's Cube dont les faces se réorganisent en de nouvelles combinaisons.
Physique quantique2026-01-032 minarXiv:2601.01252express
Une mémoire qui se travaille
Un système quantique, comme une personne dans une pièce bruyante, perd progressivement le fil de la conversation : son état se disperse dans l'environnement. Mais parfois, comme s'il se souvenait soudainement d'une pensée importante, il peut récupérer une partie de l'information perdue.