Ансамбли моделей машинного обучения — это подход, при котором комбинируются предсказания от нескольких базовых моделей. 1 Основная идея ансамблей в том, что группа моделей в среднем работает лучше, чем любая модель по отдельности. 1

Некоторые популярные методы построения ансамблей:

• Бэггинг. 14 Модели обучают на разных выборках данных и объединяют, получая прогноз путём усреднения. 3
• Бустинг. 14 Несколько однородных моделей последовательно обучаются, исправляя ошибки друг друга. 3
• Стекинг. 34 Используется несколько разнородных слабых моделей, их обучают и объединяют для построения прогноза, основанного на результатах различных слабых моделей. 3

Преимущества ансамблей: повышение точности за счёт усреднения, снижение дисперсии и переобучения, возможность комбинировать разные типы моделей. 1