Переобучение модели машинного обучения происходит, когда она слишком точно подстраивается под обучающие данные, запоминая шум и случайные изменения вместо того, чтобы обучаться обобщённым паттернам. 1
Некоторые причины переобучения:
- Ограниченный размер обучающей выборки. 1 Если количество обучающих примеров недостаточно для сложности модели, она может запомнить шум и случайные изменения в данных. 1
- Сложная архитектура модели. 1 Использование избыточного числа слоёв и нейронов в нейронной сети может привести к переизбыточной параметризации модели, что увеличивает риск переобучения. 1
- Продолжительное обучение. 1 Если модель обучается слишком долго, она может начать запоминать шум в данных вместо изучения общих паттернов. 1
- Наличие шума в данных. 2 Шум — это случайные или нерелевантные данные, которые могут ввести модель в заблуждение и привести к переобучению. 2
Переобученная модель показывает высокую точность на обучающих данных, но плохо справляется с новыми, ранее не встречавшимися примерами. 1