Некоторые модификации кросс-энтропии для работы с несбалансированными данными:
Focal Loss. encord.com repo.ssau.ru Модификация стандартной кросс-энтропии, которая уменьшает вес хорошо классифицируемых примеров. encord.com Это позволяет модели фокусироваться на редких примерах, которые сложно классифицировать. encord.com Focal Loss полезен в задачах, где важен редкий класс, например в медицинской диагностике или обнаружении мошенничества. encord.com
Взвешенная кросс-энтропия. sky.pro В этой модификации для классов устанавливают более высокие веса (обратно пропорционально их частоте). sky.pro Это заставляет модель уделять больше внимания редким классам. sky.pro
Label Smoothing. sky.pro Техника регуляризации, которая предотвращает чрезмерную уверенность модели. sky.pro
Dice-BCE Loss. sky.pro Комбинация с метриками перекрытия для сегментации изображений. sky.pro
Примеры полезных ответов Поиска с Алисой на вопросы из разных сфер. Вопросы сгенерированы нейросетью YandexGPT для актуальных тем, которые определяются на базе обобщённых запросов к Поиску с Алисой.