Для решения задач с экстремальными значениями функций используются различные методы оптимизации, например:

• Методы одномерной оптимизации. 1 К ним относятся метод сканирования, симплексный метод, метод параллельных касательных. 1
• Методы многомерной случайной оптимизации. 1 Позволяют в среднем быстрее выходить в район оптимума. 1 К ним относятся метод слепого поиска, метод случайных направлений, метод поиска с «наказанием случайностью», метод с «блуждающим» поиском. 1
• Методы многомерной условной оптимизации. 1 К ним относятся численные методы построения улучшающих последовательностей при наличии ограничений типа равенств и типа неравенств. 1 Основными методами данной группы являются метод штрафов, метод прямого поиска с возвратом, метод проектирования градиента. 1
• Методы безусловной оптимизации. 4 Используются, когда решение можно искать на всём множестве действительных чисел. 4 К ним относятся прямые методы, методы первого порядка, в которых используются вычисления первых частных производных функции, и методы второго порядка, в которых используются вычисления вторых частных производных. 4
• Методы математического программирования. 4 Используются, если в задаче оптимизации имеется система ограничений и требование неотрицательности переменных. 4 К ним относятся методы линейного программирования, целочисленного программирования, нелинейного программирования и другие. 4