Какие методы используются для адаптации нейронных сетей к различным доменам данных?

Некоторые методы, которые используются для адаптации нейронных сетей к различным доменам данных:

• Перенос знаний. www.jip.ru Нейронная сеть обучают на одном наборе данных (в исходном домене), а затем дообучают на другом наборе данных (в целевом домене). www.jip.ru
• Discrepancy-based. habr.com Подходы, основанные на минимизации расстояния между векторными представлениями на исходном и целевом доменах с помощью введения этого расстояния в loss-функцию. habr.com
• Adversarial-Based. habr.com Подходы используют состязательную (adversarial) loss-функцию для обучения сети, инвариантной относительно домена. habr.com
• Смешанные методы. habr.com Не используют adversarial loss, но применяют идеи из discrepancy-based семейства, а также последние наработки из глубокого обучения: self-ensembling, новые слои, loss-функции и т. п.. habr.com
• Методы предобработки данных. synthesis.frccsc.ru Например, Transfer Component Analysis (TCA) и Maximum Independence Domain Adaptation (MIDA). synthesis.frccsc.ru Эти технологии позволяют сгладить несоответствие между доменами путём минимизации среднего расхождения, которое измеряет расстояние между средними значениями исходного и целевого доменов. synthesis.frccsc.ru