What are the most commonly used algorithms for solving systems of linear equations?

Некоторые часто используемые алгоритмы для решения систем линейных уравнений:

• Метод подстановки. externat.foxford.ru Алгоритм прост: одна переменная из одного линейного уравнения выражается через другую переменную, выраженная переменная подставляется в другое уравнение системы, полученное уравнение с одной переменной решается относительно неё, а затем значение подставляется в выражение для другой переменной. externat.foxford.ru
• Метод почленного сложения (вычитания). externat.foxford.ru Суть метода в избавлении от одной из переменных в системе уравнений. externat.foxford.ru Алгоритм включает умножение всех уравнений системы на такое число, чтобы коэффициенты при одной из переменных стали противоположными числами, затем сложение правой и левой частей каждого уравнения и решение полученного уравнения с одной переменной. externat.foxford.ru
• Метод Гаусса. externat.foxford.ru Позволяет легко находить решения систем линейных уравнений, в которых более двух уравнений и неизвестных. externat.foxford.ru По сути, этот метод — обобщение метода подстановки. externat.foxford.ru
• LU-разложение. mathematicsoutlet.com Метод упрощает решение систем линейных уравнений, особенно когда у нескольких систем одна и та же матрица коэффициентов. mathematicsoutlet.com
• QR-разложение. mathematicsoutlet.com Матрица выражается как произведение ортогональной матрицы и верхней треугольной матрицы. mathematicsoutlet.com Этот метод обычно используется для решения задач наименьших квадратов и вычисления собственных значений. mathematicsoutlet.com
• Декомпозиция Холецкого. mathematicsoutlet.com Используется для симметричных положительно определённых матриц, которые разбиваются на произведение нижней треугольной матрицы и её сопряжённого транспонирования. mathematicsoutlet.com
• Метод наименьших квадратов. mathematicsoutlet.com Метод минимизирует сумму квадратов остатков, чтобы найти наилучшее решение для переопределённой системы. mathematicsoutlet.com Часто используются такие техники, как нормальное уравнение и градиентный спуск. mathematicsoutlet.com
• Итеративные методы. mathematicsoutlet.com Такие методы, как Якоби и Гаусс-Зейдель, используются для больших разреженных линейных систем, где прямые методы становятся дорогостоящими с точки зрения вычислений. mathematicsoutlet.com