Чем отличается стохастический градиентный бустинг от классического градиентного бустинга?

Стохастический градиентный бустинг (SGB) отличается от классического градиентного бустинга тем, что в нём на каждой итерации обучения используется случайная выборка обучающих данных для построения очередного дерева решений. cyberleninka.ru

В классическом градиентном бустинге для вычисления весов и определения алгоритмов применяется вся обучающая выборка. proproprogs.ru Однако если выборка очень большая и избыточная, объём вычислений может стать очень большим. proproprogs.ru

Использование случайных выборок в SGB приводит к следующим преимуществам:

• лучшее качество работы всей композиции; proproprogs.ru
• повышение скорости сходимости (каждый последующий алгоритм заметно улучшает качество композиции); proproprogs.ru
• уменьшение времени обучения. proproprogs.ru