глубокие подделки сеют сомнения 4 14
 Технологии, которые могут производить дипфейки, широко доступны. (Шаттерстки)

В начале марта а Распространено фальсифицированное видео президента Украины Владимира Зеленского.. В нем сгенерированный цифровым способом Зеленский приказал украинской национальной армии сдаться. Видео было распространено в Интернете, но было быстро разоблачено как дипфейк — гиперреалистичное, но поддельное и сфабрикованное видео, созданное с использованием искусственного интеллекта.

Хотя российская дезинформация, похоже, оказывает ограниченное влияние, этот тревожный пример иллюстрирует потенциальные последствия дипфейков.

Однако дипфейки успешно используются во вспомогательных технологиях. Например, Люди, страдающие болезнью Паркинсона, могут использовать клонирование голоса для общения.

Дипфейки используются в образовании: ирландская компания по синтезу речи CereProc создала синтетический голос для Джона Ф. Кеннеди, вернуть его к жизни, чтобы произнести свою историческую речь.

графика подписки внутри себя

Однако у каждой медали есть две стороны. Дипфейки могут быть гиперреалистичными. практически незаметен человеческому глазу.

Следовательно, одна и та же технология клонирования голоса может использоваться для фишинга, клеветы и шантажа. Когда дипфейки преднамеренно используются для изменения общественного мнения, разжигания социальных конфликтов и манипулирования выборами, они могут подорвать демократию.

Исследователи из Вашингтонского университета создали дипфейк Барака Обамы.

Вызывает хаос

Дипфейки основаны на технологии, известной как генеративные состязательные сети в котором два алгоритма обучают друг друга создавать изображения.

Хотя технология дипфейков может показаться сложной, создать ее несложно. Существует множество онлайн-приложений, таких как Обмен лицами и ЗАО "Дипсвоп" которые могут создавать дипфейки за считанные минуты.

Google Colaboratory — онлайн-репозиторий кода на нескольких языках программирования — содержит примеры кода, который может использоваться для создания поддельных изображений и видео. С таким доступным программным обеспечением легко увидеть, как обычные пользователи могут сеять хаос с помощью дипфейков, не осознавая потенциальных рисков безопасности.

Популярность приложений для смены лиц и онлайн-сервисов, таких как Глубокая ностальгия показать, как быстро и широко могут быть приняты широкой публикой дипфейки. В 2019 году было обнаружено около 15,000 XNUMX видео с использованием дипфейков. И ожидается, что это число будет увеличиваться.

Дипфейки — идеальный инструмент для кампаний по дезинформации, потому что они производят правдоподобные фейковые новости, на разоблачение которых требуется время. Между тем ущерб, наносимый дипфейками — особенно тот, который затрагивает репутацию людей, — зачастую долговременный и необратимый.

Верит ли видящее?

Возможно, наиболее опасным разветвлением дипфейков является то, как они поддаются дезинформации в политических кампаниях.

Мы видели это, когда Дональд Трамп обозначил любое нелестное освещение в СМИ как «поддельные новости». Обвинив своих критиков в распространении фейковых новостей, Трамп смог использовать дезинформацию для защиты своих правонарушений и в качестве инструмента пропаганды.

Стратегия Трампа позволяет ему сохранять поддержку в среде, наполненной недоверием и дезинформацией, заявляя:что настоящие события и истории являются фейковыми новостями или дипфейками".

Подрывается доверие к властям и СМИ, создавая атмосферу недоверия. А с растущим распространением дипфейков политики могут легко отрицать свою вину в любых возникающих скандалах. Как можно подтвердить чью-то личность на видео, если они это отрицают?

Однако борьба с дезинформацией всегда была проблемой для демократий, пытающихся защитить свободу слова. Партнерство человека и ИИ может помочь справиться с растущим риском дипфейков, заставив людей проверять информацию. Также можно рассмотреть введение нового законодательства или применение существующих законов для наказания производителей дипфейков за фальсификацию информации и выдачу себя за других людей.

Междисциплинарные подходы международных и национальных правительств, частных компаний и других организаций жизненно важны для защиты демократических обществ от ложной информации.Беседа

Об авторе

Сзе-Фунг Ли, Младший научный сотрудник отдела информационных исследований, Университет Макгилла и Бенджамин С.М. Фунг, Профессор и канадский председатель кафедры интеллектуального анализа данных для кибербезопасности, Университет Макгилла

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.