Нелинейность в нейронных сетях возникает из-за нелинейных функций активации каждого отдельного элемента модели. 2 Они определяют, как нейрон должен реагировать на сумму входных сигналов. 5

Порядок задач в персептроне при обучении следующий: 2

1. Выбрать смещение для элементов (случайным или иным образом). 2
2. Выбрать значения входных весов для всех элементов сети. 2
3. Запустить на исполнение обучающий пример (выборку) — так называемое «прямое прохождение». 2
4. После прохождения входного сигнала и получения выхода сравнить полученный выход с «правильным» ответом. 2
5. Осуществить корректировку смещений и весовых коэффициентов — так называемое «обратное распространение» (корректировка ошибки). 2
6. Выполнить указанный процесс N раз, где N — количество обучающих примеров. 2

В результате процесса обучения сформируются значения смещений и входных весов для каждого элемента, что позволит в дальнейшем, при подаче на вход системы ранее не подававшегося сигнала, распознать его с определённой точностью. 2