Что такое метод обратного распространения ошибки?

Метод обратного распространения ошибки — метод вычисления градиента, который используется при обновлении весов многослойного перцептрона. 45 Относится к методам обучения с учителем, поэтому требует, чтобы в обучающих примерах были заданы целевые значения. 3

Основная идея метода состоит в распространении сигналов ошибки от выходов сети к её входам, в направлении, обратном прямому распространению сигналов в обычном режиме работы. 4

На каждой итерации происходит два прохода сети — прямой и обратный: 3

1. На прямом входной вектор распространяется от входов сети к её выходам и формирует выходной вектор, соответствующий текущему (фактическому) состоянию весов. 3 Затем вычисляется ошибка нейронной сети как разность между фактическим и целевым значениями. 3
2. На обратном проходе эта ошибка распространяется от выхода сети к её входам, и производится коррекция весов нейронов. 3

Синаптические веса настраивают с целью наибольшего приближения выходного сигнала нейронной сети к желаемому. 1