Разница между квадратной и фигурной скобками при записи математических выражений заключается в их назначении:

• Квадратные скобки применяют для указания целой части числа, взятия модуля числа, определения порядка действий, операций с векторами, указания скобок второго уровня, записи координат, массивов чисел. 1 Одинарная квадратная скобка объединяет совокупность уравнений или неравенств. 4
• Фигурные скобки используют при обозначении множеств, для объединения уравнений или неравенств в систему, как скобки третьего уровня. 1 Их также применяют при решении систем уравнений (пересечение множеств). 1 Одинарная фигурная скобка объединяет системы уравнений или неравенств, служит для обозначения кусочно-заданной функции. 4