Маски с замкнутым и открытым контуром в After Effects отличаются по функциям и назначению.

Замкнутая маска представляет собой геометрическую фигуру произвольной формы, первая точка которой совпадает с последней. 1 Применив такую маску к слою, можно сделать прозрачной область изображения, лежащую вне маски. 1 Также можно инвертировать действие маски: сделать прозрачной область внутри фигуры. 1 С помощью замкнутых масок можно исключить из изображения какие-то объекты или удалить всё, кроме интересующего элемента картинки. 1

Открытая маска — это траектория, которая сама по себе не оказывает никакого влияния на изображение. 1 Такие маски используют при применении некоторых фильтров, как путь для действия эффекта. 1 Например, с их помощью можно сформировать линию на изображении по пути маски, определить кривую направляющую для текстовой надписи. 15

Таким образом, замкнутые маски предназначены для работы с прозрачностью изображения, а открытые — для достижения определённых эффектов.