Основное отличие в том, что border-radius и box-shadow имеют разные функции.

Border-radius используется для создания скруглённых углов и более сложных форм, таких как круги и эллипсы. 1 Например, если установить значение border-radius равным 50%, то получится идеальный круг. 13 Ещё один плюс использования этого свойства в том, что можно добавлять к элементу рамку и тень, которая будет повторять контур. 2

Box-shadow позволяет создавать различные эффекты теней, в том числе с резкими краями. 2 Это свойство может одновременно допускать наличие нескольких теней, параметры которых перечисляются через запятую. 2 Первая тень в таком случае будет формировать рамку, а вторая добавлять затемнение. 2

Таким образом, border-radius больше подходит для работы с формами, а box-shadow — для создания различных теневых эффектов.