Почему многослойные нейронные сети могут иметь проблемы с обучением по сравнению с однослойными?

Многослойные нейронные сети могут иметь проблемы с обучением по сравнению с однослойными по нескольким причинам:

• Сложность настройки нейронов скрытых слоёв. 2 Для решения этой проблемы нужно разработать наборы выходных сигналов, соответствующих входным, для каждого слоя сети, а это трудоёмкая операция, которая не всегда осуществима. 2
• Неизвестность оптимальных выходных значений. 5 В многослойных сетях, в отличие от однослойных, оптимальные выходные значения всех слоёв, кроме последнего, неизвестны. 5
• Переобучение. 3 Если в скрытых слоях слишком много нейронов, то ограниченного количества информации в обучающем наборе недостаточно для обучения всех нейронов. 3
• Увеличение времени обучения. 3 Даже если данных для обучения достаточно, чрезмерное количество нейронов в скрытых слоях может увеличить время, необходимое для обучения сети. 3

Чтобы избежать проблем с обучением многослойных сетей, необходимо достичь компромисса между слишком большим и слишком малым количеством нейронов в скрытых слоях. 3