Некоторые математические задачи решаются при помощи метода наименьших квадратов, потому что он основан на минимизации суммы квадратов отклонений некоторых функций от экспериментальных входных данных. 12

Метод может использоваться для:

• решения переопределённых систем уравнений (когда количество уравнений превышает количество неизвестных); 1
• поиска решения в случае обычных (не переопределённых) нелинейных систем уравнений; 1
• аппроксимации точечных значений некоторой функции. 1

Также метод наименьших квадратов является одним из базовых методов регрессионного анализа для оценки неизвестных параметров регрессионных моделей по выборочным данным. 1

Таким образом, метод направлен на подбор такой функции, чтобы сумма квадратов отклонений была как можно меньше, что и даёт основание называть его методом наименьших квадратов. 4