Для сглаживания границ прямоугольника в QML можно использовать свойство smooth элемента Rectangle. 15

Также для создания скруглённых прямоугольников используется свойство radius. 15

Кроме того, есть свойство antialiasing типа bool, которое указывает, нужно ли установить сглаживание. 23 По умолчанию оно равно true для прямоугольников с радиусом, в остальных случаях — false. 3