Какие методы оптимизации используются для нахождения экстремальных точек?

Для нахождения экстремальных точек (минимума или максимума) функции используют различные методы оптимизации, среди них:

• Методы классического математического анализа. farabi.university Основаны на исследовании производных функции. farabi.university
• Численные методы. farabi.university Основаны на действиях с конечными числами. farabi.university Отличаются способом выбора направления и движения от начальной точки к экстремуму. farabi.university
• Методы для функции одной переменной. farabi.university К ним относятся, например, метод сканирования, метод локализации экстремума, метод золотого сечения, метод поиска с использованием чисел Фибоначчи. farabi.university
• Методы для функции многих переменных без использования производных. farabi.university К ним относятся метод сканирования, метод Гаусса — Зейделя, поиск по деформируемому многограннику (симплекс-планирование) и другие. farabi.university
• Методы для функции многих переменных с использованием производных. farabi.university К ним относятся методы градиента, наискорейшего спуска, крутого восхождения, релаксаций, Ньютона и другие. farabi.university
• Эвристические методы. books.ifmo.ru В их основе лежит итерационная процедура приближения к точке предполагаемого оптимума. books.ifmo.ru К таким методам относятся, например, метод моделирования отжига, генетические алгоритмы, метод роя частиц. books.ifmo.ru