Некоторые преимущества пакетной нормализации:

• Более быстрая сходимость. 2 Пакетная нормализация уменьшает внутренний сдвиг ковариат, обеспечивая более быструю конвергенцию во время обучения. 3
• Более высокая скорость обучения. 3 При нормализации пакетов можно использовать более высокие скорости обучения без риска расхождений. 3
• Уменьшение переобучения. 2 Пакетная нормализация действует как форма регуляризации, уменьшая зависимость от отсева или других методов регуляризации, тем самым помогая в некоторой степени предотвратить переобучение. 2
• Стабильность и градиентный поток. 2 Метод стабилизирует процесс обучения, уменьшая вероятность исчезновения или взрыва градиентов, обеспечивая более надёжный поток градиентов через сеть. 2