Нелинейная функция Softmax часто бывает последней операцией в сложной нейронной сети, потому что она принимает вектор действительных чисел и возвращает распределение вероятностей. 12

Какой бы вектор ни подали на её вход (неважно, положительных или отрицательных), на выходе будет набор чисел, пригодный в качестве распределения вероятностей: каждый элемент выходного значения будет неотрицательным, и их сумма будет равна 1. 1