How is the smoothness of a function related to its L-smoothness?

Возможно, имелась в виду связь между понятиями «гладкость» функции и «L-гладкость».

L-гладкость функции означает, что её градиент является L-Липшиц-непрерывным для некоторого постоянного L ≥ 0. www.mit.edu Это условие подразумевает, что функция ограничена в том, как быстро меняется её значение. mitliagkas.github.io

Одно из свойств L-гладких функций — возможность установить квадратичную верхнюю границу для функции. www.mit.edu

Кроме того, для L-гладких функций характерны такие свойства, как, например, то, что их градиенты имеют тенденцию к убыванию по мере приближения к минимуму. mitliagkas.github.io В то время как у негладких функций могут быть резкие изгибы в минимуме, что вызывает значительные колебания при градиентном спуске. mitliagkas.github.io

Пользователь

Время добавления