Какие риски связаны с использованием большого количества нейронов в скрытых слоях нейронной сети?

Некоторые риски, связанные с использованием большого количества нейронов в скрытых слоях нейронной сети:

• Переобучение. yandex.ru habr.com Происходит, когда нейронная сеть обладает настолько большими возможностями обработки информации, что ограниченного количества информации в обучающем наборе недостаточно для обучения всех нейронов в скрытых слоях. yandex.ru В этом случае система не изучает возможности данных, а как бы запоминает сами паттерны и любой содержащийся в них шум. habr.com Такая сеть отлично работает на выборке и плохо за её пределами. habr.com
• Увеличение времени обучения. yandex.ru Чрезмерно большое количество нейронов в скрытых слоях может увеличить время, необходимое для обучения сети. yandex.ru Оно может вырасти до такой степени, что станет невозможно адекватно обучить нейронную сеть. yandex.ru
• Снижение быстродействия. cyberleninka.ru Неоправданно большое количество нейронов и слоёв негативно сказывается на работе нейронной сети. cyberleninka.ru
• Попадание в локальный минимум и паралич нейронной сети. cyberleninka.ru Это явление возникает, когда значения весов в результате коррекции становятся очень большими, а производная сжимающей функции очень мала. cyberleninka.ru

Оптимальное число скрытых элементов — специфическая проблема, решаемая опытным путём. habr.com