Почему рекуррентные нейронные сети не используются для обработки последовательностей переменной длины?

Рекуррентные нейронные сети (RNN) не используются для обработки последовательностей переменной длины из-за того, что сеть не может «знать», какие веса использовать для дополнительных входных узлов, для которых она не была обучена. stackoverflow.com

Кроме того, даже рекуррентные сети, основанные на гейтах, такие как LSTM и GRU, не могут полноценно обработать слишком длинные последовательности, поскольку вынуждены хранить информацию о всех ранее виденных наблюдениях в векторе скрытого состояния фиксированного размера. deepmachinelearning.ru

Однако теоретически RNN могут использовать информацию в произвольно длинных последовательностях, но на практике они ограничены лишь несколькими шагами. neurohive.io