Что такое ансамбли моделей машинного обучения?

Ансамбли моделей машинного обучения — это подход, при котором комбинируются предсказания от нескольких базовых моделей. sites.google.com Основная идея ансамблей в том, что группа моделей в среднем работает лучше, чем любая модель по отдельности. sites.google.com

Некоторые популярные методы построения ансамблей:

• Бэггинг. sites.google.com otus.ru Модели обучают на разных выборках данных и объединяют, получая прогноз путём усреднения. habr.com
• Бустинг. sites.google.com otus.ru Несколько однородных моделей последовательно обучаются, исправляя ошибки друг друга. habr.com
• Стекинг. habr.com otus.ru Используется несколько разнородных слабых моделей, их обучают и объединяют для построения прогноза, основанного на результатах различных слабых моделей. habr.com

Преимущества ансамблей: повышение точности за счёт усреднения, снижение дисперсии и переобучения, возможность комбинировать разные типы моделей. sites.google.com