Какие преимущества и недостатки имеют методы первого порядка?

Некоторые преимущества методов первого порядка:

• Использование информации о производных первого порядка. techn.sstu.ru ami.nstu.ru В процессе поиска решения такие методы применяют не только данные о функции, но и сведения о её производных. techn.sstu.ru ami.nstu.ru
• Возможность решения сложных технических и экономических задач. ami.nstu.ru Методы первого порядка не требуют регулярности и непрерывности целевой функции, а также существования производных. ami.nstu.ru

Некоторые недостатки методов первого порядка, например алгоритма наискорейшего спуска:

• Зависимость эффективности от вида минимизируемой функции. techn.sstu.ru В некоторых ситуациях, когда линии уровня функции представляют собой прямолинейный или криволинейный «овраг», эффективность алгоритма низкая. techn.sstu.ru
• Возможность завершения процедуры в седловой точке. techn.sstu.ru Нужно проверять, не завершился ли алгоритм в такой точке. techn.sstu.ru
• Медленная сходимость в районе экстремума. techn.sstu.ru Процесс обычно быстро сходится вдали от точки экстремума и медленно в районе экстремума. techn.sstu.ru

К методам первого порядка относятся различные градиентные алгоритмы. techn.sstu.ru ami.nstu.ru