В чем разница между bagging и boosting для ансамблей?

Разница между bagging и boosting для ансамблей заключается в следующем:

1. Bagging обучает каждую базовую модель независимо и параллельно. www.analyticsvidhya.com Для этого исходный датасет делят на несколько подмножеств, а затем создают базовую модель на каждой из них. www.scaler.com Окончательное предсказание выполняют путём усреднения прогнозов всех базовых моделей. www.analyticsvidhya.com
2. Boosting обучает модели последовательно. www.analyticsvidhya.com При этом каждая последующая модель фокусируется на исправлении ошибок, допущенных предыдущей. www.analyticsvidhya.com Корректируются веса обучающих экземпляров, чтобы определить приоритетность трудноклассифицируемых примеров, тем самым уменьшая предвзятость и повышая точность прогнозирования. www.analyticsvidhya.com

Таким образом, bagging уменьшает дисперсию за счёт усреднения нескольких моделей, а boosting последовательно улучшает прогнозы, фокусируясь на ошибках. www.analyticsvidhya.com