Вопросы к Поиску с Алисой
Возможно, имелись в виду различия между ручным и автоматическим вычислением градиентов функции потерь в языке программирования Stan, оптимизированном под задачи статистического моделирования. habr.com
Ручное вычисление может быть связано с решением задачи нахождения производной функции вручную, например, на бумаге. blog.skillfactory.ru Такой подход может быть трудоёмким, так как нахождение производной — сложная для компьютера задача. blog.skillfactory.ru
Автоматическое дифференцирование позволяет решить эту проблему. blog.skillfactory.ru Суть метода — определять большую и сложную функцию через маленькие, «базовые». blog.skillfactory.ru Если значения базовых функций в какой-то точке известны, то можно автоматически вычислить и значение, и производную сложной функции, основанной на них. blog.skillfactory.ru
Таким образом, автоматическое дифференцирование упрощает процесс, так как не требует ручного вычисления и особенно полезен при работе с комплексными моделями глубокого обучения. docs.exponenta.ru
В Stan реализовано автоматическое дифференцирование в обратном режиме для вычисления градиентов модели, что необходимо для алгоритмов оптимизации и Монте-Карло-методов марковских цепей, используемых для вывода. habr.com en.wikipedia.org