Dimensionality reduction is a technique that simplifies high-dimensional data while preserving essential patterns for analysis or visualization.Processus de transformation des données d'un espace de caractéristiques de grande dimension en un espace de basse dimension avec une perte minimale d'informations significatives. Il est utilisé à la fois pour la visualisation (projection en 2D ou 3D) et comme prétraitement avant l'apprentissage automatique, afin de réduire la complexité de calcul et d'éviter le « fléau de la dimension » (dégradation des performances des algorithmes lorsque le nombre de caractéristiques augmente).
La méthode d'analyse en composantes principales (ACP) a été proposée par Karl Pearson en 1901 ; elle a ensuite été développée indépendamment par Harold Hotelling dans les années 1930. Dans les années 1960-70, les méthodes de positionnement multidimensionnel sont apparues. L'algorithme de l'incrustation stochastique de voisins avec distribution t (t-SNE) a été présenté par Laurens van der Maaten et Geoffrey Hinton en 2008, révolutionnant la visualisation. UMAP (2018) a amélioré la préservation de la structure globale et la vitesse.
Méthode linéaire ACP : on calcule la matrice de covariance des données, ses vecteurs propres correspondant aux plus grandes valeurs propres forment une nouvelle base orthonormée ; la projection sur les m premiers vecteurs donne une représentation réduite. Autoencodeur non linéaire : un réseau de neurones avec un goulot d'étranglement (bottleneck) est entraîné à reconstruire les données d'entrée ; la représentation cachée dans le goulot sert de code de basse dimension. t-SNE modélise les probabilités qu'un point soit voisin d'un autre, dans l'espace d'origine et dans l'espace cible, en minimisant la divergence de Kullback-Leibler entre elles.
Accélération de la recherche d'images, compression d'images médicales, visualisation de relations complexes, par exemple en génétique.
La méthode d'analyse en composantes principales (ACP) est souvent utilisée pour compresser des images de visages : une photo de 10 000 pixels peut être transmise avec seulement une centaine de nombres, et le visage reste reconnaissable.

















