При работе с несбалансированными классами, когда количество образцов в каждом классе не равно, можно изменить функцию потерь так, чтобы больше штрафовать модель за ошибки в минорных классах. 1
Например, в CrossEntropyLoss в PyTorch есть параметр weight, в который по умолчанию установлено значение None. 1 В этот параметр можно передать тензор весов размером с количество классов и получить взвешенную функцию потерь. 1
Также для решения проблемы несбалансированных классов можно использовать другие функции потерь, например Focal Loss. 2 Она позволяет снизить влияние легко классифицируемых примеров на процесс обучения, фокусируясь на сложных случаях. 2