Разница между базовыми алгоритмами в ансамбле Random Forest и Gradient Boosted Decision Tree заключается в следующих аспектах:

• Создание деревьев решений. 1 В Random Forest деревья решений строятся независимо. 1 В Gradient Boosted Decision Tree деревья строятся последовательно, чтобы исправить ошибки предыдущих. 1

• Агрегирование результатов. 1 В Random Forest результаты деревьев решений агрегируются в конце процесса. 1 В Gradient Boosted Decision Tree результаты каждого дерева решений агрегируются по ходу для расчёта окончательного результата. 1

• Порядок вывода решений. 2 Деревья в Random Forest могут определять свои выходы в любом порядке. 2 Затем индивидуальные прогнозы агрегируются в коллективный: класс большинства в задачах классификации или среднее значение в регрессии. 2 В Gradient Boosted Decision Tree деревья работают в фиксированном порядке, и эта последовательность не может измениться. 2