В чем разница между методом наименьших квадратов и пошаговой регрессией?

Разница между методом наименьших квадратов и пошаговой регрессией заключается в подходах к построению регрессионной модели.

Метод наименьших квадратов заключается в подборе такой линии регрессии, чтобы общая сумма квадратов отклонений значений зависимой переменной была наименьшей. nafi.ru Для каждой точки на графике измеряют расстояние по оси y до проведённой линии. education.yandex.ru

Пошаговая регрессия организована в противоположном направлении: на первом шаге в уравнение регрессии включают фактор, имеющий наибольший коэффициент корреляции с y, и проверяют адекватность и значимость модели. nafi.ru Если модель значима, включают следующий фактор и вычисляют F-статистику для каждой переменной модели. nafi.ru Если статистический показатель значимости какой-либо переменной меньше величины F-удаления, то фактор исключают, если больше — сохраняют, и в уравнение включают следующую переменную. nafi.ru

Таким образом, метод наименьших квадратов фокусируется на поиске наилучшей линии регрессии, а пошаговая регрессия — на последовательном включении и проверке факторов для конструирования значимой модели. nafi.ru