Косинус угла 3π/2 считается отрицательным числом, потому что данный угол (3π/2) находится в третьем квадранте, а в этой части окружности значения косинуса отрицательны. 1

Это правило действует для всех углов в третьей четверти, где лежат углы от 180 до 270 градусов (от π до 3π/2 радиан). 2