Как выбор начального приближения влияет на скорость сходимости алгоритмов?

Выбор начального приближения влияет на скорость сходимости алгоритмов следующим образом: чем ближе начальное приближение к предполагаемому минимуму, тем меньше число итераций до сходимости и быстрее настраивается модель. 1

Однако есть исключение: если функция потерь невыпукла, то выбор начального приближения может влиять на то, к какому минимуму в итоге сойдётся алгоритм оптимизации. 1 В таком случае рекомендуют запускать алгоритм несколько раз из разных начальных приближений, а потом выбирать наилучшее решение. 1

На скорость сходимости алгоритма также влияют сложность задачи, общий дизайн алгоритма, точность вычислений и наличие ошибок округления. 2