Как обмануть искусственный интеллект?

Некоторые способы обмануть искусственный интеллект (ИИ):

• Подменить данные на этапе обучения. www.forbes.ru Злоумышленник намеренно «подсовывает» искусственному интеллекту неверные исходные данные, и на этапе обучения программа усваивает, например, что круг — это квадрат, и работает потом неверно. www.forbes.ru
• Вынудить систему принимать неправильное решение на этапе её применения. www.forbes.ru Например, добавить на изображение цветной шум, чтобы программа приняла ошибочное решение о том, что изображено. www.forbes.ru
• Использовать аппаратные средства. www.cnews.ru Например, остаться невидимым для систем распознавания лиц можно с помощью специальной бликующей одежды или масок. www.cnews.ru
• Запутать датчики беспилотного автомобиля. www.cnews.ru Для этого на асфальт можно нанести дополнительную разметку или добавить незначительные изменения на дорожные знаки. www.cnews.ru

Чтобы обезопасить алгоритмы ИИ от возможных атак, рекомендуется использовать только достоверные источники данных, проводить качественный анализ и предварительную обработку информации, а также отрабатывать максимальное количество ситуаций на этапе тренировки алгоритма. www.forbes.ru