Несколько причин, по которым ChatGPT вызывает опасения у экспертов по безопасности:

• Потенциальное использование в качестве инструмента взлома. 1 Чат-бот может писать код на основе простых запросов и даже запускать самостоятельно сгенерированный код. 1
• Помощь в составлении фишинговых писем и сообщений. 45 Из-за того, что языковая модель обучена на огромном массиве данных, мошенникам стало гораздо проще составлять убедительные письма в стилистике той компании, от имени которой они действуют. 5
• Кража персональных данных и сбор информации. 5 Поскольку чат-бот тренировали на больших массивах данных, в нём заложено много информации, которая способна причинить вред, попав не в те руки. 5
• Распространение фейковых новостей и непроверенной информации. 5 В основе ответов, которые генерирует ChatGPT, лежат данные, на которых его обучали. 5 Многие из них взяты из интернета, где содержится и непроверенная информация, и откровенная дезинформация. 5

При этом ChatGPT может использоваться и для усиления кибербезопасности: помогать писать антивирусы, находить уязвимости в коде, распознавать фишинговые письма. 4