В чем заключаются преимущества depthwise-конволюций перед обычной сверткой?

Некоторые преимущества depthwise-конволюций перед обычной свёрткой:

• Сокращение объёма вычислений. deepmachinelearning.ru В обычной свёртке каждый выходной признак зависит от всех каналов, а в depthwise-конволюции каждый канал обрабатывается независимо, и объём вычислений сокращается. deepmachinelearning.ru
• Уменьшение количества параметров. habr.com www.paepper.com В обычном свёрточном слое свёртка применяется ко всем каналам сразу, и количество параметров может быть большим. habr.com В depthwise-конволюции эти два вида информации обрабатываются последовательно, что позволяет сократить количество параметров. habr.com
• Повышение скорости работы. github.com Depthwise-конволюции могут работать до 9 раз быстрее обычных свёрток. github.com
• Снижение потребности в памяти. www.paepper.com В целом depthwise-конволюции требуют меньше памяти, чем обычные свёртки. www.paepper.com

Depthwise-конволюции особенно полезны в мобильных реализациях, где важны скорость работы и использование памяти. www.paepper.com github.com