Почему ChatGPT вызывает опасения у экспертов по безопасности?

Несколько причин, по которым ChatGPT вызывает опасения у экспертов по безопасности:

• Потенциальное использование в качестве инструмента взлома. www.digitaltrends.com Чат-бот может писать код на основе простых запросов и даже запускать самостоятельно сгенерированный код. www.digitaltrends.com
• Помощь в составлении фишинговых писем и сообщений. trends.rbc.ru www.kaspersky.ru Из-за того, что языковая модель обучена на огромном массиве данных, мошенникам стало гораздо проще составлять убедительные письма в стилистике той компании, от имени которой они действуют. www.kaspersky.ru
• Кража персональных данных и сбор информации. www.kaspersky.ru Поскольку чат-бот тренировали на больших массивах данных, в нём заложено много информации, которая способна причинить вред, попав не в те руки. www.kaspersky.ru
• Распространение фейковых новостей и непроверенной информации. www.kaspersky.ru В основе ответов, которые генерирует ChatGPT, лежат данные, на которых его обучали. www.kaspersky.ru Многие из них взяты из интернета, где содержится и непроверенная информация, и откровенная дезинформация. www.kaspersky.ru

При этом ChatGPT может использоваться и для усиления кибербезопасности: помогать писать антивирусы, находить уязвимости в коде, распознавать фишинговые письма. trends.rbc.ru