Как использовать методы оптимизации для поиска локальных экстремумов в многомерных функциях?

Методы оптимизации для поиска локальных экстремумов в многомерных функциях включают в себя следующие основные компоненты: courses.igankevich.com

1. Подобласть определения функции, внутри которой ищется точка экстремума. courses.igankevich.com
2. Целевую функцию, которая обращается в ноль в точке экстремума. courses.igankevich.com
3. Критерии остановки итераций. courses.igankevich.com Как правило, это достижение нужной точности аргумента и значения целевой функции, а также достижение максимально допустимого числа итераций или максимального количества раз, которое вычисляется значение целевой функции. courses.igankevich.com

Некоторые методы оптимизации для поиска локальных экстремумов в многомерных функциях:

• Метод полного перебора. courses.igankevich.com Область определения оптимизируемой функции разбивается на равные промежутки, и вычисляется целевая функция в каждой точке получившейся сетки. courses.igankevich.com Из получившихся значений выбирается минимальное. courses.igankevich.com
• Метод бисекции (или метод половинного деления). courses.igankevich.com Если на концах некоторого промежутка целевая функция принимает значения различных знаков, значит на этом промежутке находится точка, в которой она обращается в ноль (точка экстремума исходной функции). courses.igankevich.com
• Метод градиентного спуска. moodle.kstu.ru Итерационный метод для нахождения локального минимума функции. moodle.kstu.ru Он использует градиент функции для определения направления движения. moodle.kstu.ru
• Метод Ньютона. courses.igankevich.com Использует производные первого и второго порядка, для того чтобы сделать сходимость квадратичной. courses.igankevich.com
• Методы стохастического программирования или нейронных сетей. www.jip.ru Применяются для поиска экстремума в случаях, когда вид оптимизируемой функции известен не полностью, либо её структура слишком сложна. www.jip.ru