
Une technique d'apprentissage automatique où les connaissances acquises lors d'une tâche sont appliquées à une tâche différente mais connexe.L'apprentissage par transfert est une stratégie d'apprentissage automatique où un modèle entraîné sur une tâche est réutilisé comme point de départ pour une seconde tâche connexe. Au lieu d'entraîner le modèle à partir de zéro, celui-ci conserve les caractéristiques et les motifs appris dans le premier domaine, ce qui accélère souvent l'entraînement et améliore les performances, surtout lorsque les données pour la tâche cible sont rares. En physique, l'apprentissage par transfert est devenu un outil puissant pour appliquer des réseaux de neurones entraînés sur des données simulées ou synthétiques à des données expérimentales réelles, ou pour adapter des modèles d'un système matériel à un autre.
Le concept d'apprentissage par transfert a émergé dans les années 1990 au sein de la communauté de l'apprentissage automatique, avec des cadres formels proposés par Lorien Pratt et d'autres. Il a gagné en popularité après 2012, lorsque des réseaux convolutifs profonds pré-entraînés sur ImageNet ont été affinés avec succès pour d'autres tâches visuelles.
L'approche typique comporte deux étapes : le pré-entraînement et l'ajustement fin. Pendant le pré-entraînement, un réseau de neurones apprend des représentations générales à partir d'un grand ensemble de données souvent générique—par exemple, des images ou des spectres provenant de nombreux matériaux différents. Lors de l'ajustement fin, les poids du réseau sont légèrement modifiés à l'aide d'un ensemble de données plus petit et spécifique à la tâche. Les couches antérieures, qui capturent des caractéristiques de bas niveau comme les bords ou les pics spectraux, sont souvent figées, tandis que les couches ultérieures sont réentraînées pour mapper ces caractéristiques à la nouvelle tâche. Cela fonctionne car de nombreux systèmes physiques partagent des structures sous-jacentes communes, de sorte que les caractéristiques apprises se transfèrent efficacement.
En physique, l'apprentissage par transfert est utilisé pour entraîner des réseaux de neurones qui prédisent les propriétés des matériaux à partir de données expérimentales limitées, pour accélérer la planification des doses en radiothérapie, et pour adapter des modèles d'une configuration d'accélérateur de particules ou de réacteur à une autre.
L'apprentissage par transfert est la raison pour laquelle les modèles d'IA modernes peuvent être entraînés sur des ensembles de données génériques massifs puis spécialisés pour des tâches de niche avec seulement quelques centaines d'exemples, un processus qui nécessiterait autrement des millions d'échantillons étiquetés.













