Почему функция Softmax эффективнее Hardmax в задачах классификации?

Функция Softmax эффективнее Hardmax в задачах классификации, потому что она позволяет делать более «умные» предсказания. yandex.ru Она учитывает вероятности отношения объекта к каждому из классов. yandex.ru

Hardmax, в свою очередь, выбирает класс, которому соответствует наибольшее полученное число. yandex.ru Например, если нейронная сеть возвращает числа [10, -5, -10, 9], то Hardmax сообщит, что изображение относится к классу «чихуахуа» с вероятностью 100%, а к каждому из остальных классов — с вероятностью 0%. yandex.ru

Кроме того, Softmax позволяет лучше обучать нейронные сети за счёт лучшего пропускания градиентов, нежели в Hardmax. yandex.ru Это связано с тем, что функция Softmax дифференцируема, в то время как в Hardmax производные всегда будут равны нулю. habr.com