Метод dropout помогает предотвратить переобучение в нейронных сетях путём случайного «выпадения» части нейронов в процессе обучения. 3 Это эффективно создаёт разреженную сеть и предотвращает чрезмерную зависимость сети от определённых нейронов. 3

Переобучение появляется из-за совместной адаптации: при обновлении весов нейрона учитывается деятельность остальных нейронов с целью минимизировать функцию потерь. 5 Поэтому веса нейронов могут меняться, исправляя при этом ошибки других нейронов. 5 Метод dropout предотвращает эту адаптацию. 5

Также dropout заставляет нейронную сеть изучать более надёжные функции, которые полезны в сочетании со многими различными случайными подмножествами других нейронов. 1 Это увеличивает скорость обучения, качество обучения на тренировочных данных, а также повышает качество предсказаний модели на новых тестовых данных. 2