Несколько методов, которые можно использовать в нейронной сети для устранения переобучения:
- Стратегия сокращения. 1 Сокращает размер заключительных классификаторов за счёт неприменения менее важных и неподходящих данных. 1
- Стратегия ранней остановки. 14 Позволяет предотвратить переобучение путём прекращения обучения после того, как точность пробных данных перестаёт улучшаться. 1
- Стратегия расширения данных. 1 Подавляет переобучение за счёт грамотной настройки гиперпараметров модели при больших объёмах данных. 1
- Стратегия регуляризации. 13 Заключается в выборе только «нужных» функций, влияющих на конечный результат. 1
- Стратегия прореживания (отсева). 1 Принцип заключается в том, что обучается не одна глубокая нейронная сеть, а целый набор, после чего берутся усреднённые результаты. 1
- Батч-нормализация. 2 Метод нормализует входные данные перед входом в каждый слой, что снижает риск переобучения. 2
Выбор метода зависит от предназначения проектируемой нейронной сети. 2