Какие риски связаны с использованием большого количества нейронов в скрытых слоях нейронной сети?

Некоторые риски, связанные с использованием большого количества нейронов в скрытых слоях нейронной сети:

• Переобучение. 13 Происходит, когда нейронная сеть обладает настолько большими возможностями обработки информации, что ограниченного количества информации в обучающем наборе недостаточно для обучения всех нейронов в скрытых слоях. 1 В этом случае система не изучает возможности данных, а как бы запоминает сами паттерны и любой содержащийся в них шум. 3 Такая сеть отлично работает на выборке и плохо за её пределами. 3
• Увеличение времени обучения. 1 Чрезмерно большое количество нейронов в скрытых слоях может увеличить время, необходимое для обучения сети. 1 Оно может вырасти до такой степени, что станет невозможно адекватно обучить нейронную сеть. 1
• Снижение быстродействия. 2 Неоправданно большое количество нейронов и слоёв негативно сказывается на работе нейронной сети. 2
• Попадание в локальный минимум и паралич нейронной сети. 2 Это явление возникает, когда значения весов в результате коррекции становятся очень большими, а производная сжимающей функции очень мала. 2

Оптимальное число скрытых элементов — специфическая проблема, решаемая опытным путём. 3