Некоторые методы нахождения точек экстремума в многомерных пространствах:

• Адаптивные последовательные методы оптимизации. 1 К ним относятся, например, методы неравномерных покрытий пространства поиска, редукция многомерной задачи к одномерным задачам с последующим применением эффективных одномерных алгоритмов глобальной оптимизации, многомерный метод ломаных. 1
• Градиентные методы. 5 Используют только первые производные целевой функции и являются методами линейной аппроксимации на каждом шаге. 5 Целевая функция на каждом шаге заменяется касательной гиперплоскостью к её графику в текущей точке. 5
• Метод исключения переменных. 4 Суть метода в том, что из уравнений условий связи некоторые переменные выражают через остальные (если это возможно), подставляют найденные переменные в функцию и решают задачу об экстремуме функции с меньшим количеством переменных. 4
• Метод множителей Лагранжа. 34 Применяется, если решение уравнения связи затруднительно и нужно исследовать экстремум полностью (а не только найти критические точки). 3
• Алгоритм Пауэлла. 5 На каждом этапе поиска определяется минимум квадратичной функции, которой аппроксимируется целевая функция, вдоль каждого из сопряжённых ко всем предыдущим. 5 Затем выбирается новая система направлений с использованием результатов поиска и утверждения. 5