Для чего нужен Dropout в машинном обучении?

Dropout в машинном обучении нужен для уменьшения переобучения сети за счёт предотвращения сложных коадаптаций отдельных нейронов на тренировочных данных во время обучения. ru.wikipedia.org

Суть метода в том, что определённый процент случайных нейронов (находящихся как в скрытых, так и видимых слоях) исключается на разных итерациях (эпохах) во время обучения нейронной сети. ru.wikipedia.org В результате более обученные нейроны получают в сети больший вес. ru.wikipedia.org

Такой приём значительно увеличивает скорость обучения, качество обучения на тренировочных данных, а также повышает качество предсказаний модели на новых тестовых данных. ru.wikipedia.org

Например, если в данных множество мультикоррелирующих признаков или присутствует шум, наличие dropout позволит избежать обусловливания модели на лишь их подмножество и позволит учитывать их все. education.yandex.ru