Какие существуют методы поиска экстремумов в нелинейных системах?

Некоторые методы поиска экстремумов в нелинейных системах:

• Методы прямого поиска. intuit.ru spmi.ru При поиске экстремума целевой функции используются только её значения. intuit.ru spmi.ru Примеры: метод Хука–Дживса, метод сопряжённых направлений (метод Пауэлла). math.semestr.ru
• Градиентные методы первого порядка. intuit.ru spmi.ru При поиске экстремума функции используются значения её первых производных. intuit.ru spmi.ru Примеры: метод наискорейшего спуска (метод Коши), метод Ньютона, метод Марквардта. math.semestr.ru
• Градиентные методы второго порядка. intuit.ru spmi.ru При поиске экстремума функции наряду с первыми производными используются и вторые производные. intuit.ru spmi.ru Примеры: метод сопряжённых градиентов (метод Флетчера-Ривса), метод Бройдена–Флетчера–Гольдфарба–Шанно (квазиньютоновские методы). math.semestr.ru
• Методы перебора. math.semestr.ru Применимы для отыскания экстремумов унимодальных целевых функций. math.semestr.ru Примеры: методы дихотомии, золотого сечения. math.semestr.ru
• Метод прямой оптимизации. spmi.ru Применяется, когда ограничения типа равенства описываются простыми, желательно линейными функциями. spmi.ru Из каждого ограничения последовательно выражается одна переменная, а в других ограничениях вместо неё производится подстановка. spmi.ru В результате получается одно уравнение или система уравнений с меньшим количеством переменных. spmi.ru

Ни один метод нелинейного программирования не является универсальным. intuit.ru В каждом конкретном случае необходимо приспосабливать применяемый метод к особенностям решаемой задачи. intuit.ru