Как вывести формулу градиентного шага в методе логистической регрессии для задачи классификации с двумя классами?

Формула градиентного шага в методе логистической регрессии для задачи классификации с двумя классами может быть выведена следующим образом: yandex.ru www.baeldung.com

1. Определение модели логистической регрессии для задач бинарной классификации. yandex.ru www.baeldung.com Для этого выбирают функцию гипотезы в виде сигмовидной функции. yandex.ru www.baeldung.com
2. Определение логарифмической стоимости ошибки для двух случаев отдельно, так как вывод может быть либо {0}, либо {1}. yandex.ru www.baeldung.com
3. Применение градиентного спуска к функции стоимости логистической регрессии. yandex.ru www.baeldung.com Это позволяет найти оптимальное решение, минимизирующее стоимость по параметрам модели. yandex.ru www.baeldung.com
4. Вычисление значения частной производной по каждому параметру для завершения алгоритма. yandex.ru www.baeldung.com
5. Включение этого значения в функцию градиентного спуска для получения правила обновления. yandex.ru www.baeldung.com

Удивительно, но правило обновления совпадает с правилом, полученным с использованием суммы квадратов ошибок в линейной регрессии. yandex.ru www.baeldung.com В результате можно использовать ту же формулу градиентного спуска и для логистической регрессии. yandex.ru www.baeldung.com