Примеры неквадратичных функций потерь в регрессионных задачах:
- Средняя абсолютная ошибка (MAE). 1 Для расчёта нужно взять разницу между предсказаниями модели и истинным значением, применить к этой разнице абсолютное значение, а затем усреднить её по всему набору данных. 1 Такая функция потерь обеспечивает общую меру того, насколько хорошо работает модель, и не придаёт слишком большого значения выбросам. 1
- Функция потерь Хьюбера. 1 Для значений потерь меньше дельты используется MSE, для значений потерь больше дельты — MAE. 1 Это позволяет сочетать в себе лучшее от обеих функций потерь: для больших значений потерь MAE уменьшает вес, который придаётся выбросам, а для меньших значений потерь — MSE поддерживает квадратичную функцию вблизи центра. 1
- Функция Мешалкина. 2 Это ограниченная сверху функция, которая в окрестности нуля ведёт себя как квадратичная, а на бесконечности стремится к горизонтальной асимптоте. 2 Такая функция потерь не различает большие и сверхбольшие отклонения. 2
Неквадратичные функции потерь вводятся с целью учёта специфики данных и требований к задаче. 4 Например, они помогают минимизировать определённый тип ошибок или учитывать наличие выбросов. 45