Как нейросети могут использоваться мошенниками для подделки голоса?

Мошенники используют нейросети для подделки голоса, создавая реалистичные цифровые копии. www.computerra.ru Для этого они берут образец голоса, например из личной переписки или публичных постов в социальных сетях. www.computerra.ru

Процесс создания копии голоса: www.sberbank.com

1. Запись разбивают на фрагменты — отдельные слова и фразы. www.sberbank.com
2. Эти фрагменты загружают в нейросеть. www.sberbank.com
3. Искусственный интеллект «изучает» характерные черты голоса: как человек произносит определённые звуки, делает паузы, меняет интонацию. www.sberbank.com Он запоминает темп речи и даже такие мелкие детали, как придыхание или особенности произношения. www.sberbank.com
4. После обучения нейросеть может воспроизвести любой текст голосом человека. www.sberbank.com

Некоторые сценарии использования поддельного голоса мошенниками:

• Звонок в банк от имени жертвы. www.sberbank.com Злоумышленник представляется клиентом, просит выполнить перевод на другой счёт или оформить кредит. www.sberbank.com
• Звонки родным и друзьям. www.sberbank.com «Поддельный» голос сообщает о срочной проблеме и просит перевести определённую сумму. www.sberbank.com
• Взлом системы голосовой идентификации. www.sberbank.com С помощью поддельной речи мошенники могут получить доступ к банковским услугам жертвы, системе умного дома или конфиденциальной информации на работе. www.sberbank.com

Чтобы отличить реальный голос от поддельного, можно обратить внимание на такие признаки синтетической речи, как цифровые артефакты и глитчи, неестественные паузы, странности в интонациях, проблемы с дыханием, необычное произношение отдельных слов или фраз, отсутствие фоновых звуков и нарушение контекста разговора. www.sberbank.com

Важно помнить, что мошенничество с подделкой голоса незаконно и может привести к финансовым потерям.