Инварианты в нейронных сетях реализуются через структурную инвариантность. 2 Для этого синаптические связи между отдельными нейронами сети строятся таким образом, чтобы трансформированные версии одного и того же сигнала вызывали один и тот же выходной сигнал. 2

Например, чтобы обеспечить инвариантность к вращению, дублируют синаптические веса всех пикселей, равноудалённых от центра изображения. 2

Также инвариантность при перестановке сигналов на входе одного нейрона обеспечивается равенством весов, а инвариантность относительно перестановки некоторого подмножества сигналов — равенством совокупности весов. 3

Ещё один приём обеспечения инвариантности нейронной сети классификации к трансформациям — использование дублирования синаптических весов. 2 Например, для инвариантности к вращению дублируют синаптические веса всех пикселей, равноудалённых от центра изображения. 2