Как работает метод главных компонент (PCA) в анализе данных?

Метод главных компонент (PCA) позволяет найти те направления в данных, где находится основная часть их вариативности. practicum.yandex.ru Эти направления и называются главными компонентами. practicum.yandex.ru

Суть PCA можно выразить в трёх основных шагах: sky.pro

1. Стандартизация данных. sky.pro Все переменные приводятся к одному масштабу. sky.pro
2. Вычисление ковариационной матрицы. sky.pro Она описывает, как переменные связаны между собой. kurshub.ru
3. Нахождение собственных векторов и собственных значений. sky.pro Собственные векторы указывают направления главных компонент, а собственные значения показывают, сколько информации содержится в каждом направлении. kurshub.ru

Первая главная компонента — это направление, вдоль которого разброс данных максимален. practicum.yandex.ru Она содержит максимальную информацию о различиях в данных. practicum.yandex.ru Вторая главная компонента перпендикулярна первой и содержит вторую по значимости часть вариативности, и так далее. practicum.yandex.ru Каждая следующая компонента объясняет всё меньшую часть общей дисперсии данных. practicum.yandex.ru

Главные компоненты — это не реальные измерения, которые изначально есть в данных. practicum.yandex.ru Это искусственно созданные оси, которые помогают представить данные более компактно и осмысленно. practicum.yandex.ru

Главная цель PCA в анализе данных — это выделение главных направлений вариативности, что позволяет понять, какие переменные или комбинации переменных вносят наибольший вклад в различия между наблюдениями. practicum.yandex.ru