Как реализуются инварианты в нейронных сетях?

Инварианты в нейронных сетях реализуются через структурную инвариантность. e.nlrs.ru Для этого синаптические связи между отдельными нейронами сети строятся таким образом, чтобы трансформированные версии одного и того же сигнала вызывали один и тот же выходной сигнал. e.nlrs.ru

Например, чтобы обеспечить инвариантность к вращению, дублируют синаптические веса всех пикселей, равноудалённых от центра изображения. e.nlrs.ru

Также инвариантность при перестановке сигналов на входе одного нейрона обеспечивается равенством весов, а инвариантность относительно перестановки некоторого подмножества сигналов — равенством совокупности весов. www.vestnik.vsu.ru

Ещё один приём обеспечения инвариантности нейронной сети классификации к трансформациям — использование дублирования синаптических весов. e.nlrs.ru Например, для инвариантности к вращению дублируют синаптические веса всех пикселей, равноудалённых от центра изображения. e.nlrs.ru