Как оптимизировать производительность сложных алгоритмов за счет правильного выбора точек экстремума?

Несколько рекомендаций, как оптимизировать производительность сложных алгоритмов за счёт правильного выбора точек экстремума:

• Использовать байесовскую оптимизацию. habr.com Она улучшает случайный перебор по сетке, выделяя области, где вероятность получить экстремальное значение выше. habr.com Соответственно, в этих областях можно чаще генерировать точки для поиска решения. habr.com
• Применять генетические алгоритмы. courses.igankevich.com Это эвристические методы оптимизации, основанные на принципах эволюции биологических видов: селекции, мутации, скрещивании и т. п.. courses.igankevich.com Мутация позволяет выбрать точки, которые близки по значениям к текущему приближению, а скрещивание — точки, которые сильно различаются по сравнению с ним. courses.igankevich.com Селекция помогает отсеять точки, которые не являются глобальным экстремумом. courses.igankevich.com
• Использовать метод золотого сечения. elar.urfu.ru В нём две внутренние точки, которые используются для сокращения отрезка поиска, выбираются таким образом, чтобы одна из них использовалась с той же целью и на следующем уже сокращённом отрезке. elar.urfu.ru Это позволяет сократить число вычислений функции вдвое: одна итерация требует расчёта только одного нового значения функции. elar.urfu.ru

Выбор метода зависит от условий задачи и других факторов.