Некоторые отличия PyTorch 2.0 от предыдущих версий библиотеки:

• Улучшенная производительность. 35 В версии 2.0 появилась функция torch.compile, которая меняет работу PyTorch на уровне компилятора и позволяет ускорить время обучения. 34
• Расширенная поддержка динамических форм и распределённого обучения. 35
• Оптимизация для графовых нейронных сетей. 5 В PyTorch 2.0 есть оптимизации, адаптированные для GNN. 5
• Высокопроизводительная реализация PyTorch Transformer API. 5

При этом PyTorch 2.0 полностью обратно совместим с предыдущими версиями и не потребует каких-либо изменений в существующем коде PyTorch. 1