deepfake voice scams 7 18
 Клонировать чей-то голос проще, чем когда-либо. D-Keine/iStock через Getty Images

Вы только что вернулись домой после долгого рабочего дня и собираетесь сесть за ужин, как вдруг ваш телефон начинает гудеть. На другом конце находится любимый человек, возможно, родитель, ребенок или друг детства, который умоляет вас немедленно отправить ему деньги.

Вы задаете им вопросы, пытаясь понять. Что-то не так с их ответами, которые либо расплывчаты, либо нехарактерны, а иногда и с характерной задержкой, как будто они думают слишком медленно. Тем не менее, вы уверены, что это определенно говорит ваш любимый человек: вы слышите его голос, и определитель номера показывает его номер. Списывая странность на их панику, вы покорно отправляете деньги на банковский счет, который они вам предоставили.

На следующий день вы перезваниваете им, чтобы убедиться, что все в порядке. Ваш любимый человек понятия не имеет, о чем вы говорите. Это потому, что они никогда не звонили вам — вас обманули с помощью технологии: дипфейка голоса. Тысячи людей были обманули таким образом в 2022 году.

Возможность клонировать голос человека становится все более доступной для всех, у кого есть компьютер.


innerself subscribe graphic


 

As компьютерная безопасность исследователи, мы видим, что непрерывный прогресс в алгоритмах глубокого обучения, редактировании и инженерии аудио, а также в создании синтетического голоса означает, что становится все более возможным убедительно имитировать голос человека.

Хуже того, чат-боты, такие как ChatGPT, начинают генерировать реалистичные сценарии с адаптивными ответами в реальном времени. К объединение этих технологий с голосовой генерацией, дипфейк превращается из статической записи в живой, реалистичный аватар, который может убедительно вести телефонный разговор.

Клонирование голоса

Создание убедительного высококачественного дипфейка, будь то видео или аудио, — не самая простая задача. Это требует большого количества художественных и технических навыков, мощного оборудования и довольно крупного образца целевого голоса.

Растет число услуг, предлагаемых производить голосовые клоны среднего и высокого качества за определенную плату, а для некоторых инструментов голосового дипфейка требуется образец всего минута, или даже всего несколько секунд, чтобы создать голосовой клон, который мог бы быть достаточно убедительным, чтобы обмануть кого-то. Однако, чтобы убедить любимого человека — например, использовать его в мошенничестве с выдачей себя за другое лицо — вероятно, потребуется значительно большая выборка.

Исследователи смогли клонировать голоса всего за пять секунд записи.

 

Защита от мошенничества и дезинформации

С учетом всего сказанного, мы в Дефейк Проект из Рочестерского технологического института, Университета Миссисипи и Мичиганского государственного университета, а также другие исследователи усердно работают над тем, чтобы иметь возможность обнаруживать видео- и аудиодипфейки и ограничивать вред, который они причиняют. Есть также простые и повседневные действия, которые вы можете предпринять, чтобы защитить себя.

Для начала, голосовой фишинг, или «вишинг», мошенничество, подобное описанному выше, является наиболее вероятным голосовым дипфейком, с которым вы можете столкнуться в повседневной жизни, как на работе, так и дома. В 2019 году энергетическая компания была обманута на 243,000 XNUMX долларов США когда преступники имитировали голос начальника материнской компании, чтобы приказать сотруднику перевести средства поставщику. В 2022 году люди выманили примерно 11 миллионов долларов смоделированными голосами, в том числе близких, личных связей.

Что вы можете сделать?

Помните о неожиданных звонках, даже от людей, которых вы хорошо знаете. Это не означает, что вам нужно планировать каждый звонок, но это помогает, по крайней мере, отправить электронное письмо или текстовое сообщение заранее. Кроме того, не полагайтесь на идентификатор вызывающего абонента, поскольку это тоже можно подделать. Например, если вам звонит кто-то, утверждающий, что он представляет ваш банк, повесьте трубку и позвоните напрямую в банк, чтобы подтвердить законность звонка. Обязательно используйте номер, который вы записали, сохранили в списке контактов или который вы можете найти в Google.

Кроме того, будьте осторожны с вашей личной идентифицирующей информацией, такой как номер социального страхования, домашний адрес, дата рождения, номер телефона, отчество и даже имена ваших детей и домашних животных. Мошенники могут использовать эту информацию, чтобы выдавать себя за вас перед банками, риелторами и другими лицами, обогащая себя, разоряя вас или уничтожая ваш кредит.

Вот еще один совет: познай себя. В частности, знайте свои интеллектуальные и эмоциональные предубеждения и уязвимые места. В целом это хороший жизненный совет, но он является ключом к тому, чтобы защитить себя от манипуляций. Мошенники, как правило, пытаются разузнать, а затем воспользоваться вашими финансовыми проблемами, политическими взглядами или другими наклонностями, какими бы они ни были.

Эта бдительность также является достойной защитой от дезинформации с использованием голосовых дипфейков. Дипфейки могут быть использованы, чтобы воспользоваться вашим уклон подтверждения, или что вы склонны верить о ком-то.

Если вы слышите, как важный человек, будь то из вашей общины или правительства, говорит что-то, что либо кажется ему очень нехарактерным, либо подтверждает ваши худшие подозрения о нем, вам следует проявить осторожность.The Conversation

Об авторах

Мэтью Райт, Профессор компьютерной безопасности, Рочестерского технологического института и Кристофер Шварц, научный сотрудник с докторской степенью в области компьютерной безопасности, Рочестерского технологического института

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.