Некоторые преимущества depthwise-конволюций перед обычной свёрткой:
- Сокращение объёма вычислений. 1 В обычной свёртке каждый выходной признак зависит от всех каналов, а в depthwise-конволюции каждый канал обрабатывается независимо, и объём вычислений сокращается. 1
- Уменьшение количества параметров. 34 В обычном свёрточном слое свёртка применяется ко всем каналам сразу, и количество параметров может быть большим. 3 В depthwise-конволюции эти два вида информации обрабатываются последовательно, что позволяет сократить количество параметров. 3
- Повышение скорости работы. 5 Depthwise-конволюции могут работать до 9 раз быстрее обычных свёрток. 5
- Снижение потребности в памяти. 4 В целом depthwise-конволюции требуют меньше памяти, чем обычные свёртки. 4
Depthwise-конволюции особенно полезны в мобильных реализациях, где важны скорость работы и использование памяти. 45