Какие математические методы можно применить для решения задач с постепенным увеличением сложности?

Для решения задач с постепенным увеличением сложности можно применять технику постепенной оптимизации. ru.wikipedia.org

Суть метода в том, чтобы решить трудную задачу путём решения сначала сильно упрощённой задачи с последовательным преобразованием её, пока она не станет эквивалентна исходной трудной задаче. ru.wikipedia.org

Некоторые другие математические методы, которые могут использоваться для решения задач оптимизации:

• Итерационные методы. en.wikipedia.org Различаются в зависимости от того, оценивают ли они коэффициенты, градиенты или только значения функций. en.wikipedia.org
• Эвристика. en.wikipedia.org Используется для нахождения приближённых решений многих сложных задач оптимизации. en.wikipedia.org
• Симплекс-метод. habr.com Является итеративным, то есть последовательно улучшает решение. habr.com
• Проективный градиентный спуск. habr.com После каждого шага градиентного спуска корректирует полученную точку, взяв вместо неё её проекцию на замкнутое выпуклое множество. habr.com

Выбор оптимального метода зависит от конкретной задачи и должен учитывать несколько факторов: объём данных, требования к точности, ограничения на память и время выполнения. sky.pro