Разница между альфа-каналом и маской слоя в Photoshop заключается в их функциях и способе работы.

Альфа-канал — это специальный канал в палитре Channels (Каналы) для хранения масок. 4 В нём белым цветом обозначаются выделенные участки, чёрным — участки вне выделения (замаскированные), а серым — участки с частичным, полупрозрачным выделением. 2 Альфа-канал позволяет работать с 256 уровнями и создавать сложные изменяемые маски прозрачности. 3

Маска слоя позволяет скрыть часть изображения от воздействия различных инструментов коррекции и фильтров. 2 С помощью маски можно скрыть часть нижележащего слоя. 2 Маску используют, если нужно отделить сложный объект от фона. 2

Таким образом, альфа-канал предназначен для сохранения масок, а маска слоя — для скрытия части изображения.