В чем разница между ручным и автоматическим дифференцированием в Stan?

Возможно, имелись в виду различия между ручным и автоматическим вычислением градиентов функции потерь в языке программирования Stan, оптимизированном под задачи статистического моделирования. 1

Ручное вычисление может быть связано с решением задачи нахождения производной функции вручную, например, на бумаге. 4 Такой подход может быть трудоёмким, так как нахождение производной — сложная для компьютера задача. 4

Автоматическое дифференцирование позволяет решить эту проблему. 4 Суть метода — определять большую и сложную функцию через маленькие, «базовые». 4 Если значения базовых функций в какой-то точке известны, то можно автоматически вычислить и значение, и производную сложной функции, основанной на них. 4

Таким образом, автоматическое дифференцирование упрощает процесс, так как не требует ручного вычисления и особенно полезен при работе с комплексными моделями глубокого обучения. 5

В Stan реализовано автоматическое дифференцирование в обратном режиме для вычисления градиентов модели, что необходимо для алгоритмов оптимизации и Монте-Карло-методов марковских цепей, используемых для вывода. 12