Какие существуют современные методы оптимизации массовых вычислений?

Некоторые современные методы оптимизации массовых вычислений:

• Динамическая оптимизация. cyberleninka.ru Включает в себя поиск оптимальных решений в реальном времени в зависимости от текущей загрузки кластера, доступных ресурсов и других факторов. cyberleninka.ru Позволяет адаптировать выполнение задач к изменяющимся условиям. cyberleninka.ru
• Эвристические алгоритмы. cyberleninka.ru Находят субоптимальные, но не самые эффективные решения из всех возможных. cyberleninka.ru
• Поиск по сетке значений (grid search). books.ifmo.ru Основан на полном переборе заданного подмножества пространства параметров с фиксированным шагом. books.ifmo.ru Часто используется для решения оптимизационных задач небольшой размерности. books.ifmo.ru
• Градиентные методы. books.ifmo.ru Основаны на вычислении функции градиента конкретной точки в пространстве параметров для заданного размера шага. books.ifmo.ru К ним относятся, например, градиентный спуск, квазиньютоновские методы. books.ifmo.ru
• Методы второго порядка. books.ifmo.ru Производят вычисление не только первых, но и вторых производных (гессиана функции). books.ifmo.ru
• Прямые методы оптимизации. books.ifmo.ru Требуют вычисления лишь значений целевой функции, а необходимость находить значения частных производных отсутствует. books.ifmo.ru
• Методы на основе кривых Пеано. books.ifmo.ru При их использовании решение многомерных задач сводится к решению одномерных задач с помощью непрерывных однозначных отображений на основе типа кривой Пеано. books.ifmo.ru