Для решения экстремальных задач в функциональном анализе применяются различные методы, среди них:

• Классический метод, использующий аппарат производных. 1 Применяется для простейших задач одномерной оптимизации. 1
• Итерационные методы. 1 Используются, когда применение классического метода затруднительно или невозможно. 1 К ним относятся, например, методы перебора, дихотомии, Фибоначчи, золотого сечения, ломаных. 1
• Градиентные методы. 1 Применяются для задач безусловной оптимизации, используют аппарат частных производных первого порядка. 1
• Методы, не использующие аппарат производных. 1 Используются, если функция не является дифференцируемой, вычисление градиента затруднительно или трудно решить уравнение, из которого определяются точки экстремума. 1 К таким методам относятся, например, метод деформируемого многогранника, покоординатного спуска или случайного поиска. 1
• Метод возможных направлений. 1 Один из распространённых методов условной оптимизации. 1 Требует на каждой итерации решения вспомогательной задачи линейного или квадратичного программирования. 1
• Метод штрафных функций. 1 Идея метода в том, чтобы свести задачу условной минимизации к последовательности задач безусловной минимизации. 1
• Метод множителей Лагранжа. 3 Один из удобных способов поиска экстремума функции при наличии ограничений на её переменные. 3 Позволяет перейти от условной оптимизации к безусловной. 3