Дифференцирование используется в машинном обучении для оптимизации функций потерь. 4 Производные описывают скорость изменения функции и позволяют выявить её критические точки — места, где функция перестаёт возрастать или убывать. 4 В критических точках первая производная функции равна нулю или не существует, то есть такие точки — потенциальные кандидаты на искомые экстремумы. 4

Также дифференцирование помогает вычислять градиенты и анализировать поведение сложных моделей. 4 Например, зная значения производной от функции потерь в конкретной точке, можно спускаться в обратном ей направлении до тех пор, пока не будет достигнут минимум. 3 Коэффициент скорости обучения, на который умножают значение производной, позволяет регулировать длину шага при каждой итерации алгоритма. 3