Как Бэггинг помогает уменьшить дисперсию модели?

Бэггинг помогает уменьшить дисперсию модели, предотвращая переобучение. 1

При использовании этого метода создаётся множество деревьев решений, каждое из которых обучается на случайной подвыборке данных с возвращением (bootstrap-выборка). 23 Затем прогнозы этих деревьев объединяются (обычно путём усреднения или голосования). 23

Несколько причин, как это помогает уменьшить дисперсию:

• Разнообразие моделей. 2 Поскольку каждое дерево обучается на разной выборке данных, модели получаются различными. 2 Это разнообразие помогает компенсировать ошибки отдельных деревьев. 2
• Усреднение ошибок. 2 При объединении прогнозов ошибки отдельных деревьев имеют тенденцию компенсировать друг друга, особенно если они не систематические. 2
• Стабильность модели. 2 Усреднённый результат более устойчив к шуму и выбросам в данных. 2

В итоге бэггинг уменьшает дисперсию модели без значительного увеличения смещения, что улучшает общую точность и надёжность прогнозов. 2