Как используется проекция вектора на подпространство в практических задачах машинного обучения?

Проекция вектора на подпространство в практических задачах машинного обучения используется, например, в следующих случаях:

• Метод наименьших квадратов (МНК). 2 МНК ищет ортогональную проекцию вектора ответов обучающей выборки на подпространство столбцов матрицы. 2
• Линейный дискриминантный анализ (KDDA). 3 Основная идея — представить входные обучающие изображения в виде n-мерных векторов, а затем найти такое подпространство, в котором проекции векторов, принадлежащих разным классам, были бы расположены как можно дальше друг от друга, а проекции векторов, принадлежащих одному и тому же классу, наоборот, — ближе друг к другу. 3
• Метод главных компонент (PCA). 4 Это один из основных методов сокращения размерности данных, используемых в машинном обучении. 4 Он находит такую проекцию данных на пространство меньшей размерности, которая максимально сохраняет дисперсию данных. 4