Как работает ассоциативная память на основе нейронной сети Хопфилда?

Ассоциативная память на основе нейронной сети Хопфилда работает по принципу восстановления искажённого сигнала по ближайшему к нему эталонному. spravochnick.ru sdo.nsuem.ru

Процесс происходит так: engineer.yadro.com

1. Для обучения сети подают входные данные — изображение, которое закодировано бинарно: чёрный пиксель соответствует значению 0, а белый — 1. engineer.yadro.com Сеть Хопфилда запоминает это изображение, настраивая связи между нейронами по специальной формуле, чтобы сохранить паттерн с минимальной энергией. engineer.yadro.com
2. Когда сеть получает искажённое или новое изображение, происходит обновление узлов. engineer.yadro.com Они перебираются один за другим, для каждого проверяется, приведёт ли изменение его значения к снижению энергии всей сети. engineer.yadro.com
3. Например, если текущий пиксель чёрный (0), но при его изменении на белый (1) энергия сети снизится, то он меняет своё значение на 1. engineer.yadro.com И так для всех узлов. engineer.yadro.com
4. Процесс продолжается до тех пор, пока найти изменения, которые привели бы к дальнейшему снижению энергии сети, будет невозможно. engineer.yadro.com В этот момент сеть достигает состояния стабилизации. engineer.yadro.com
5. Когда сеть стабилизируется, она часто воспроизводит оригинальное изображение, заложенное в процессе обучения. engineer.yadro.com То есть сеть вспоминает один из сохранённых паттернов на основе принципа минимизации энергии. engineer.yadro.com

Сети Хопфилда могут хранить несколько воспоминаний, каждое в своей маленькой энергетической долине. habr.com В какую долину попадёт сеть, зависит от того, где она начнёт путь в своём энергетическом ландшафте. habr.com