Для групп связанных данных можно применить любые рекуррентные нейронные сети. 1 Они способны сохранять информацию о предыдущих шагах обработки, что позволяет учитывать контекст и временные зависимости в последовательностях данных. 3

Некоторые популярные и распространённые рекуррентные сети, которые подходят для работы с группами связанных данных:

• LSTM (Long Short-Term Memory). 3 Не имеют принципиально отличающейся архитектуры от RNN, но используют другую функцию для вычисления скрытого состояния. 5
• GRU (Gated Recurrent Units). 3 Улучшили способность RNN обрабатывать долгосрочные зависимости в данных. 3
• BiRNN (Bidirectional Recurrent Neural Network). 2 Две однонаправленные рекуррентные сети, одна из которых обрабатывает входную последовательность в прямом порядке, а другая — в обратном. 2 Для каждого элемента входной последовательности считается два вектора скрытых состояний, на основе которых вычисляется выход сети. 2