Снижение размерности — это метод, упрощающий многомерные данные с сохранением существенных закономерностей для анализа или визуализации.Процесс преобразования данных из высокоразмерного пространства признаков в низкоразмерное с минимальной потерей значимой информации. Применяется как для визуализации (проецирование на 2D или 3D), так и в качестве предобработки перед машинным обучением, чтобы снизить вычислительную сложность и избежать «проклятия размерности» (ухудшение работы алгоритмов при росте числа признаков).
Метод главных компонент (PCA) был предложен Карлом Пирсоном в 1901 году; позже независимо разработан Гарольдом Хотеллингом в 1930-х. В 1960-70-е появились методы многомерного шкалирования. Алгоритм t-распределенного стохастического вложения соседей (t-SNE) представили Лоренс ван дер Маатен и Джеффри Хинтон в 2008 году, произведя революцию в визуализации. UMAP (2018) улучшил сохранение глобальной структуры и скорость.
Линейный метод PCA: вычисляется ковариационная матрица данных, её собственные векторы, соответствующие наибольшим собственным значениям, образуют новый ортонормированный базис; проецирование на первые m векторов даёт сокращённое представление. Нелинейный автоэнкодер: нейронная сеть с узким горлом (bottleneck) обучается восстанавливать входные данные; скрытое представление в горле служит низкоразмерным кодом. t-SNE моделирует вероятности того, что точка является соседом другой, в исходном и целевом пространствах, минимизируя расхождение Кульбака–Лейблера между ними.
Ускорение поиска по изображениям, сжатие медицинских снимков, визуализация сложных взаимосвязей, например, в генетике.
Метод главных компонент (PCA) часто используют для сжатия изображений лиц: 10000-пиксельный снимок можно передать всего сотней чисел, и лицо останется узнаваемым.

















