В задачах оптимизации используются методы исследования функций на экстремум, потому что они позволяют находить наибольшее или наименьшее значение целевой функции. 23

Такие методы применяют в случаях, когда известен аналитический вид зависимости оптимизируемой функции от независимых переменных. 2 Это даёт возможность найти в аналитическом виде производные оптимизируемой функции, используя которые формулируют необходимые и достаточные условия существования экстремума. 2

Однако зачастую в практических задачах решение уравнения и даже просто вычисление производной представляют большие трудности. 3 Кроме того, в практических задачах часто неизвестно, является ли целевая функция дифференцируемой. 3 Поэтому существенное значение приобретают численные методы минимизации, не требующие вычисления производной и основанные на исследовании поведения функции в специально подбираемых точках в соответствии с определённым алгоритмом. 3