Чем отличается стохастический градиентный бустинг от классического градиентного бустинга?

Стохастический градиентный бустинг (SGB) отличается от классического градиентного бустинга тем, что в нём на каждой итерации обучения используется случайная выборка обучающих данных для построения очередного дерева решений. 1

В классическом градиентном бустинге для вычисления весов и определения алгоритмов применяется вся обучающая выборка. 2 Однако если выборка очень большая и избыточная, объём вычислений может стать очень большим. 2

Использование случайных выборок в SGB приводит к следующим преимуществам:

• лучшее качество работы всей композиции; 2
• повышение скорости сходимости (каждый последующий алгоритм заметно улучшает качество композиции); 2
• уменьшение времени обучения. 2