В чем заключаются ключевые отличия между классическими автоэнкодерами и вариационными?

Некоторые ключевые отличия между классическими автоэнкодерами и вариационными:

• Способ представления данных. gimal-ai.ru Классический автоэнкодер переводит данные в конкретный вектор фиксированной длины. gimal-ai.ru Вариационный автоэнкодер (VAE) работает с распределением: вместо одного вектора он задаёт вероятности для каждого скрытого признака. gimal-ai.ru
• Генерация данных. gimal-ai.ru Классические автоэнкодеры просто восстанавливают то, что видели на обучении. gimal-ai.ru VAE подходят для генерации новых объектов: они «не заучивают» виденное, а учатся создавать похожие, но уникальные. gimal-ai.ru
• Скрытое пространство. gb.ru neurohive.io У классических автоэнкодеров шифрование в скрытом пространстве не всегда является непрерывным, что препятствует выполнению интерполяции. gb.ru У VAE скрытое пространство непрерывное, что позволяет выполнять случайные трансформации и интерполяцию. gb.ru neurohive.io
• Функция потерь. neurohive.io В классических автоэнкодерах функция потерь выбирается как среднеквадратичная ошибка или как кросс-энтропия между входными и выходными данными. neurohive.io VAE используют KL-потери, которые эквивалентны сумме всех KL-расходимостей между распределением компонент в векторе и нормальным распределением. neurohive.io