Вопросы к Поиску с Алисой
Выбор начального приближения влияет на скорость сходимости алгоритмов следующим образом: чем ближе начальное приближение к предполагаемому минимуму, тем меньше число итераций до сходимости и быстрее настраивается модель. deepmachinelearning.ru
Однако есть исключение: если функция потерь невыпукла, то выбор начального приближения может влиять на то, к какому минимуму в итоге сойдётся алгоритм оптимизации. deepmachinelearning.ru В таком случае рекомендуют запускать алгоритм несколько раз из разных начальных приближений, а потом выбирать наилучшее решение. deepmachinelearning.ru
На скорость сходимости алгоритма также влияют сложность задачи, общий дизайн алгоритма, точность вычислений и наличие ошибок округления. www.physicsforums.com