Возможно, имелся в виду алгоритм Монтгомери, который не предназначен для решения систем нелинейных уравнений, но используется для выполнения операций с большими числами. 1
Принцип работы алгоритма Монтгомери заключается в замене умножения и деления операциями сдвига бит и сложения, что позволяет значительно повысить скорость модулярных вычислений. 1
Алгоритм Монтгомери был предложен в 1985 году Питером Монтгомери. 2