В чем основные отличия между White Box и Black Box атаками на нейросети?

Основное отличие между White Box и Black Box атаками на нейросети заключается в уровне доступа к модели: habr.com telegra.ph

• White Box — злоумышленник имеет полное представление о модели машинного обучения, включая её архитектуру и параметры. habr.com
• Black Box — злоумышленник имеет ограниченные знания о модели машинного обучения или не имеет их вовсе, для создания примеров противника ему приходится полагаться на метод проб и ошибок. habr.com

Таким образом, атаки White Box чаще связаны с исследованиями в области Adversarial attacks, а атаки Black Box наиболее приближены к реальности. habr.com

Пользователь

Время добавления