Какие существуют методы оптимизации вычислений подмножеств числовых множеств?

Возможно, имелись в виду методы оптимизации, которые используются для поиска экстремума функции при наличии ограничений или без них. bibl.nngasu.ru Некоторые из них:

• Методы многомерной случайной оптимизации. elib.osu.ru Позволяют в среднем быстрее выходить в район оптимума и эффективны при поиске глобального оптимума. elib.osu.ru К таким методам относятся, например, метод слепого поиска, метод случайных направлений, метод поиска с «наказанием случайностью» и метод с «блуждающим» поиском. elib.osu.ru
• Методы многомерной условной оптимизации. elib.osu.ru К ним относятся численные методы построения улучшающих последовательностей при наличии ограничений типа равенств и типа неравенств. elib.osu.ru Основные методы этой группы: метод штрафов, метод прямого поиска с возвратом и метод проектирования градиента. elib.osu.ru
• Методы многомерной градиентной оптимизации. elib.osu.ru Строится улучшающая последовательность в зависимости от скорости изменения критерия по различным направлениям. elib.osu.ru
• Методы многомерной безграничной оптимизации. elib.osu.ru У этих методов величина и направление шага к оптимуму формируются однозначно по определённым детерминированным функциям в зависимости от свойств критерия оптимальности в окрестности текущей точки без использования производных. elib.osu.ru
• Метод Гаусса-Зайделя (метод покоординатного спуска). elib.osu.ru Метод прост в реализации, на его эффективность влияет порядок чередования переменных. elib.osu.ru
• Метод Розенброка. elib.osu.ru Направлен на ликвидацию одного из недостатков предыдущего метода — высокую чувствительность к выбору системы координат. elib.osu.ru Особенно эффективен для квадратичных функций. elib.osu.ru
• Метод параллельных касательных. elib.osu.ru Эффективен для задачи невысокой размерности для функций, близких к квадратичным функциям. elib.osu.ru