Почему важно минимизировать эмпирический риск в процессе обучения нейронных сетей?

Минимизация эмпирического риска в процессе обучения нейронных сетей важна по нескольким причинам:

• Повышение способности к обобщению. 25 От того, насколько хорошо нейронная сеть минимизирует эмпирический риск на большом обучающем материале, зависит точность выполнения требуемого отображения на новой информации с прежними статистическими характеристиками. 25
• Снижение количества ошибок. 2 Функционал эмпирического риска характеризует процент ошибок, среднеквадратичную ошибку аппроксимации и другие показатели обобщения нейронной сети. 2
• Возможность прогнозирования уровня обобщения. 2 Границы различия эмпирического и фактического рисков позволяют прогнозировать уровень обобщения нейронной сети после обучения. 2

Однако при обучении нейронной сети не всегда лучше минимизировать на каждом этапе. 4 Иногда для достижения наилучшей производительности необходимо перерегулирование. 4