Как кросс-энтропия используется в задачах распознавания образов?

Кросс-энтропия используется в задачах распознавания образов, в частности изображений, с помощью моделей глубокого обучения, таких как свёрточные нейронные сети (CNN). 5

Кросс-энтропия служит мостом между прогнозами модели и фактическими значениями, особенно в задачах классификации. 1 Она накладывает более тяжёлые штрафы на уверенные, но неверные предсказания, что помогает модели со временем делать более точные предсказания. 4

Например, кросс-энтропию применяли в системе распознавания медицинских изображений для диагностики редкого генетического заболевания. 1 В этом случае модель, обученная с использованием кросс-энтропии, показала более высокую точность, чем модель, обученная с применением среднеквадратичной ошибки. 1

Также кросс-энтропию используют для распознавания лиц: с её помощью вычисляют штраф при сравнении векторов лиц, представляющих разных людей. 3 При этом стремятся к тому, чтобы расстояние между векторами лиц одного человека было маленьким, а между векторами разных людей — большим. 3