В чем заключаются основные методы оптимизации вычислений?

Некоторые основные методы оптимизации вычислений:

• Методы прямого поиска (нулевого порядка). asu.tusur.ru Основаны на вычислении только значений целевой функции. asu.tusur.ru К ним относятся методы исключения интервалов и квадратичной аппроксимации. asu.tusur.ru
• Методы 1-го порядка. asu.tusur.ru В них используются точные значения первых производных. asu.tusur.ru Например, метод средней точки и другие интервальные методы решения уравнения f¢(x) = 0, метод кубической аппроксимации. asu.tusur.ru
• Ньютоновские методы. portal.tpu.ru Опираются на возможность аппроксимации кривизны нелинейной целевой функции без явного формирования её матрицы Гессе. portal.tpu.ru Данные о кривизне накапливаются на основе наблюдения за изменением градиента во время спуска. portal.tpu.ru
• Динамическое программирование. books.ifmo.ru Разделяет процесс на этапы, каждый из которых представляет собой отдельную оптимизационную задачу. books.ifmo.ru Метод определяет оптимальную стратегию управления на всех стадиях процесса. books.ifmo.ru
• Метод ветвей и границ. books.ifmo.ru Разбивает множество оптимизации на подмножества, на границах которых строятся оценки критерия оптимизации. books.ifmo.ru Если нижняя граница значений критерия на подмножестве больше, чем верхняя граница на каком-либо ранее просмотренном подмножестве, то критерий можно исключить из дальнейшего рассмотрения. books.ifmo.ru