Алгоритм усиления классификаторов AdaBoost объединяет несколько классификаторов для повышения их точности. 2 Он берёт набор или группу слабых классификаторов и объединяет их в один сильный. 5
Работа алгоритма включает несколько этапов: 2
- Первоначально AdaBoost выбирает обучающее подмножество случайным образом. 2
- Итеративно обучает модель машинного обучения, выбирая обучающий набор на основе точного прогноза последнего обучения. 2
- Присваивает более высокий вес ошибочно классифицированным наблюдениям, чтобы в следующей итерации эти наблюдения получили высокую вероятность для классификации. 2
- Присваивает вес обученному классификатору на каждой итерации в соответствии с точностью классификатора. 2 Более точный классификатор получит больший вес. 2
- Этот процесс повторяется до тех пор, пока полные обучающие данные не будут соответствовать без ошибок или пока не будет достигнуто указанное максимальное количество оценщиков. 2
AdaBoost чувствителен к шуму в данных и выбросам, но менее подвержен переобучению по сравнению с другими алгоритмами машинного обучения. 13