Формула градиентного шага в методе логистической регрессии для задачи классификации с двумя классами может быть выведена следующим образом: 13

1. Определение модели логистической регрессии для задач бинарной классификации. 13 Для этого выбирают функцию гипотезы в виде сигмовидной функции. 13
2. Определение логарифмической стоимости ошибки для двух случаев отдельно, так как вывод может быть либо {0}, либо {1}. 13
3. Применение градиентного спуска к функции стоимости логистической регрессии. 13 Это позволяет найти оптимальное решение, минимизирующее стоимость по параметрам модели. 13
4. Вычисление значения частной производной по каждому параметру для завершения алгоритма. 13
5. Включение этого значения в функцию градиентного спуска для получения правила обновления. 13

Удивительно, но правило обновления совпадает с правилом, полученным с использованием суммы квадратов ошибок в линейной регрессии. 13 В результате можно использовать ту же формулу градиентного спуска и для логистической регрессии. 13