Возможно, имелся в виду термин «Red team» в контексте кибербезопасности систем искусственного интеллекта. 1

Значение Red team в области искусственного интеллекта и информационных технологий заключается в том, что такие команды имитируют атаки на инфраструктуру, действия киберпреступников и находят уязвимости в системе защиты. 1

Это важно, так как системы машинного обучения (искусственного интеллекта) подвержены состязательным атакам, которые могут либо воспрепятствовать их работе, либо заставить системы вести себя определённым образом. 1

Кроме того, существует агент Red Teaming для искусственного интеллекта, который помогает организациям заранее находить риски безопасности, связанные с генерирующими системами ИИ во время разработки моделей и приложений, сгенерированных ИИ. 2