Разница между функцией потерь и эмпирическим риском заключается в том, что они имеют разные значения, хотя и связаны между собой. 3
Функция потерь (loss function) обычно определяется для отдельного примера и измеряет разницу между предсказанным значением и истинным значением. 3 Функция потерь — это случайная величина, которая зависит от алгоритма и текущего входного вектора. 4
Эмпирический риск (empirical risk) — это среднее значение функции потерь по всему набору обучающих данных. 3 Другими словами, это агрегированная ошибка по всему набору данных (сумма или среднее функции потерь). 3
Таким образом, функция потерь измеряет ошибку для одного примера, а эмпирический риск — ошибку по всему набору данных. 3