Какие существуют методы нахождения локальных максимумов и минимумов в задачах оптимизации?

Некоторые методы нахождения локальных максимумов и минимумов в задачах оптимизации:

• Метод полного перебора. courses.igankevich.com Область определения оптимизируемой функции разбивают на равные промежутки и вычисляют целевую функцию в каждой точке получившейся сетки. courses.igankevich.com Из получившихся значений выбирают минимальное. courses.igankevich.com Этот метод самый ресурсоёмкий, но работает для любых функций. courses.igankevich.com
• Метод дихотомии. smiuk.sfu-kras.ru Сначала находят середину интервала и вычисляют в близких друг к другу точках два значения функции. smiuk.sfu-kras.ru Если первое значение меньше второго, то функция в середине отрезка возрастает, и дальнейший поиск минимума ведут в интервале, где b = x1. smiuk.sfu-kras.ru Если первое значение больше второго, то функция в середине отрезка убывает, и поиск минимума ведут в интервале, где a = x1. smiuk.sfu-kras.ru
• Градиентный метод оптимизации. smiuk.sfu-kras.ru В точке экстремума градиент равен нулю. smiuk.sfu-kras.ru Двигаясь по градиенту (антиградиенту), можно достичь максимума (минимума) функции. smiuk.sfu-kras.ru
• Квазиньютоновские методы. smiuk.sfu-kras.ru Основаны на накоплении информации о кривизне целевой функции по наблюдениям за изменением градиента. smiuk.sfu-kras.ru
• Методы исключения отрезков. lib.togudv.ru К ним относятся, например, метод Фибоначчи, метод «золотого сечения». lib.togudv.ru На каждой итерации выбирают две точки и сравнивают значения функции в них. lib.togudv.ru
• Методы, использующие производные функции. lib.togudv.ru К ним относятся метод средней точки, метод хорд, метод Ньютона, метод кубической аппроксимации и другие. lib.togudv.ru