Возможно, имелась в виду библиотека PyTorch-Ignite, которая помогает обучать и оценивать нейронные сети в PyTorch. 5

Некоторые способы, как PyTorch-Ignite может ускорить обучение на нескольких GPU:

• Отделение моделей от среды обучения. 5 Это достигается с помощью абстракции Engine, которая отвечает за запуск произвольной функции, обычно функции обучения или оценки, и генерацию событий по ходу процесса. 5
• Настройка потока событий во время выполнения. 5 Это возможно благодаря встроенной системе событий, которая представлена классом Events и обеспечивает гибкость Engine, облегчая взаимодействие на каждом шаге выполнения. 5
• Предоставление обработчиков. 5 Например, Checkpoint позволяет легко сохранять состояние обучения или лучшие модели в файловую систему или облако. 5 EarlyStopping и TerminateOnNan помогают остановить обучение при переобучении или расхождении. 5

Использование нескольких графических процессоров позволяет ускорить обучение за счёт увеличенной вычислительной мощности, масштабируемости и эффективного использования ресурсов. 3