Machine learning is a computational method that analyzes data to identify patterns and make predictions or decisions.L'apprentissage automatique est une branche de l'intelligence artificielle où les algorithmes construisent des modèles à partir de données, en identifiant des motifs cachés sans programmation explicite de règles. La technique comprend l'apprentissage supervisé (à partir d'exemples étiquetés), non supervisé (clustering) et par renforcement (méthode d'essai et erreur).
Le terme « apprentissage automatique » a été introduit par Arthur Samuel en 1959, lorsqu'il a créé un programme de jeu de dames. En 1957, Frank Rosenblatt a construit le perceptron, le premier modèle de neurone artificiel. Après une période d'« hiver de l'IA », le développement a repris dans les années 1980 avec la découverte de l'algorithme de rétropropagation. Dans les années 2010, une croissance explosive est survenue grâce aux mégadonnées, aux GPU et aux architectures profondes.
Un modèle paramétré est choisi (par exemple, un réseau de neurones ou une régression linéaire). Pendant la phase d'apprentissage, la perte entre les prédictions et les vraies valeurs est minimisée à l'aide d'une optimisation numérique. La descente de gradient stochastique est la plus courante : à chaque étape, les paramètres sont mis à jour dans la direction de l'antigradient de la fonction de perte sur un sous-ensemble aléatoire de données. Pour les réseaux multicouches, les gradients sont calculés par l'algorithme de rétropropagation, basé sur la règle de différentiation des fonctions composées. Problèmes clés : sur-apprentissage, gradient évanescent, choix des hyperparamètres.
Utilisé pour les recommandations de films, la reconnaissance vocale et même le diagnostic de maladies à partir d'images.
Le premier algorithme de réseau neuronal, le perceptron, a été créé en 1958, mais il n'a pas répondu aux attentes à l'époque, et ce n'est que des décennies plus tard que les réseaux neuronaux ont connu un renouveau.
| MSE | variable | Mean squared error — mean squared error |
| n | variable | Number of observations — taille de l'échantillon |
| y_i | variable | Actual value for observation i — actual value |
| \hat{y}_i | variable | Predicted value for observation i — predicted value |
| \sum_{i=1}^{n} | opérateur | Sum over all observations from 1 to n — somme |
| MAE | variable | Mean absolute error — mean absolute error same as dependent variable |
| n | variable | Number of observations — taille de l'échantillon |
| y_i | variable | True value for observation i — true value same as dependent variable |
| \hat{y}_i | variable | Predicted value for observation i — predicted value same as dependent variable |
| \sum_{i=1}^n | opérateur | Sum over all observations from 1 to n — somme |
| |\cdot| | opérateur | Takes the absolute value of the difference — valeur absolue |
