Основное отличие метода Гаусса-Зейделя от метода простой итерации заключается в том, что в методе Гаусса-Зейделя новые значения вектора вычисляются не только на основании значений предыдущей итерации, но и с использованием значений, уже вычисленных на текущей итерации. 12
Например, элемент x1 определяется через x2 и x3, величины которых были рассчитаны на предыдущей итерации, а последующий элемент x2 уже рассчитывается на основании x1, найденного именно на текущей итерации, и x3, вычисленного на предыдущей. 2
Благодаря этому отличию метод Гаусса-Зейделя в большинстве задач сходится быстрее, чем метод простой итерации. 4