В чём разница между функцией потерь и метрикой качества?

Разница между функцией потерь и метрикой качества заключается в их целях использования, влиянии на обучение и применении: tgstat.ru

1. Цель использования: функция потерь направлена на минимизацию ошибки во время обучения модели, помогает определить направление изменения её весов. tgstat.ru Метрика качества используется для оценки и сравнения моделей с точки зрения их производительности на задаче. tgstat.ru
2. Влияние на обучение: функция потерь напрямую влияет на процесс обучения, так как градиенты этой функции используются для обновления весов в модели. tgstat.ru Метрика качества не влияет на обучение, она только предоставляет информацию о том, насколько хорошо модель работает на отдельных примерах или целых наборах данных. tgstat.ru
3. Применение: функция потерь часто бывает дифференцируемой, чтобы её можно было использовать в алгоритмах, основанных на градиентном спуске. tgstat.ru Метрика качества может быть не дифференцируемой и не всегда подходит для использования в качестве функции потерь. tgstat.ru

В некоторых случаях метрика может совпадать с функцией потерь. education.yandex.ru Например, в задаче регрессии MSE играют роль как функции потерь, так и метрики. education.yandex.ru Но в задаче бинарной классификации они почти всегда различаются: в качестве функции потерь может выступать кросс-энтропия, а в качестве метрики — число верно угаданных меток (accuracy). education.yandex.ru