Какие методы используются в программировании для автоматического дифференцирования?

Некоторые методы, которые используются в программировании для автоматического дифференцирования:

• Прямой метод. www.isa.ru Вводится новый тип данных, который содержит не только значение переменной, но и все значения её производных по одной или нескольким входным переменным. www.isa.ru
• Обратный метод. www.isa.ru При вычислении функции необходимо записать в память результаты вычисления каждой основной элементарной функции, создавая «информационный граф», а затем пройти этот граф в обратном порядке, вычисляя производные. www.isa.ru
• Метод на основе дуальных чисел. www.researchgate.net openbooks.itmo.ru Результат вычислений является дуальным числом, одна составляющая которого есть точное значение функции, а другая — точное значение производной этой же функции при том же значении аргумента. www.researchgate.net openbooks.itmo.ru
• Метод обратного распространения. www.mes-conference.ru www.braintools.ru Алгоритм, который вычисляет значения частных производных переменных независимо от того, какие преобразования производятся над переменными. www.braintools.ru Метод основан на идее обратного распространения ошибки, цепном правиле дифференцирования и аналитических формулах вычисления производных по различным операциям преобразования. www.braintools.ru