Некоторые ограничения нейронных сетей в решении сложных проблем:

• Проблемы с обобщением и переносом знаний и навыков на другую задачу или область. 1 Модель может быть более приспособлена к обучающим данным и не так хорошо работать с новыми или невидимыми данными. 3
• Отсутствие безопасности и надёжности. 1 Нейронные сети не защищены от атак и могут быть уязвимы к ним. 1
• Невозможность объяснить, почему сеть приняла определённое решение. 1 Она известна как «чёрный ящик», и понять, насколько каждая входная переменная влияет на выходные, сложно. 3
• Необходимость в большом количестве данных и вычислительных ресурсов. 1 Обучение нейронных сетей может быть вычислительно дорогим и длительным. 3
• Невозможность уловить особенности решений. 5 Это связано с некомпактностью их образцовых множеств, что влияет на существование глобальных минимумов и регулярность сети. 5

Также есть проблема вычислительной нередуцируемости: некоторые вычислительные процессы нельзя упростить или сжать в более короткую последовательность шагов, независимо от размера нейронной сети. 2