Как stride влияет на эффективность операций с тензорами в PyTorch?

Stride влияет на эффективность операций с тензорами в PyTorch следующим образом: он обеспечивает эффективное индексирование данных. habr.com i-й элемент шага соответствует тому, на сколько пробелов вдоль массива нужно продвинуться, чтобы получить следующий элемент с размерностью i. habr.com

Благодаря этому многие операции с тензорами можно выполнять без создания копий данных, что приводит к высокой эффективности. martinlwx.github.io Кроме того, это позволяет выполнять ленивые операции. martinlwx.github.io

При изменении формы тензора атрибут stride обновляется, но данные в памяти не меняются. qudata.com Например, при вызове .transpose() PyTorch только и требуется, что обновить шаг. habr.com

Таким образом, stride помогает обходиться единственным обращением к памяти на каждый элемент и эффективнее использовать пространство в кэше. habr.com