Взрывоопасная смесь дипфейков и политических кампаний — хороший повод быть начеку. Шон Энтони Эдди Creative/E+ через Getty Images

Представь Октябрьский сюрприз как никто другой: всего за неделю до 5 ноября 2024 года видеозапись показывает тайную встречу Джо Байдена и Владимира Зеленского. Президенты США и Украины договорились немедленно инициировать Украину в НАТО в соответствии со «специальным протоколом о чрезвычайном членстве» и готовиться к нанесению ядерного удара по России. Внезапно мир оказывается на пороге Армагеддона.

Хотя журналисты могли указать, что такого протокола не существует и пользователи социальных сетей могут заметить странные качества видео, похожие на видеоигры, другие могут подумать, что их худшие страхи были подтверждены. Когда наступит день выборов, эти заинтересованные граждане могут позволить видео повлиять на свои голоса, не подозревая, что ими только что манипулировали с помощью дипфейка ситуации — события, которого на самом деле никогда не было.

Ситуационные дипфейки представляют собой следующий этап технологий, которые есть уже потрясло восприятие реальности аудиторией. В нашем исследовании на Дефейк Проект, мои коллеги из Рочестерского технологического института, Университет Миссисипи, Университет штата Мичиган и я изучить, как делаются дипфейки и какие меры могут предпринять избиратели, чтобы защитить себя от них.

Воображая события, которых никогда не было

Дипфейк создается, когда кто-то использует инструмент искусственного интеллекта, особенно глубокое обучение, чтобы манипулировать или генерировать противоречить, чтобы голос или – с повышением большие языковые модели такое как ChatGPT – разговорный язык. Их можно комбинировать, чтобы сформировать «ситуационные дипфейки».

Основная идея и технология дипфейка ситуации такие же, как и у любого другого дипфейка, но с более смелой целью: манипулировать реальным событием или выдумать его из воздуха. Примеры включают изображения Демонстрационная прогулка Дональда Трампа и Трамп обнимает Энтони Фаучи, ни чего не произошло. Снимок объятий продвигал Твиттере связанные с президентской кампанией соперника Трампа Рона ДеСантиса. Ан реклама атаки нацеливание на кампанию Джо Байдена 2024 года, опубликованное Национальным комитетом Республиканской партии, было сделано полностью с помощью ИИ.

на Дефейк Проект, Наши исследование показало, что дипфейки, в том числе ситуации, как правило, создаются смесью добавление одного фрагмента медиа с другим; используя видео для анимации изображения или изменения другого видеокукловодство; создание части медиа, обычно с использованием генеративный ИИ; или некоторая комбинация этих методов.

Чтобы было ясно, многие дипфейки ситуаций создаются с невинными целями. Например, Журнал Бесконечная Одиссея производит поддельные кадры из фильмов, которые никогда не производились or никогда не мог существовать. Но даже невинные дипфейки дают повод задуматься, как в случае с почти правдоподобными поддельными фотографиями, изображающими Посадка Аполлона на Луну как кинопроизводство.

Дипфейк выборов

А теперь поставьте себя на место человека, пытающегося повлиять на предстоящие выборы. Какие возможные ситуации вы можете создать?

Во-первых, будет иметь значение, хотите ли вы склонить голосование в сторону или против определенного результата. Может быть, вы изобразили бы кандидата, который ведет себя героически, уводя пешехода с дороги мчащейся машины, или, наоборот, делает что-то оскорбительное или преступное. Формат ситуации deepfake также имел бы значение. Вместо видео это может быть фотография, возможно, с размытием и ракурсами, имитирующими камеру смартфона, или поддельный логотип информационного агентства.

Ваша целевая аудитория будет ключевой. Вместо того, чтобы нацеливаться на общий электорат или партийную базу, вы можете нацеливаться на сторонников теории заговора в ключевых избирательных округах. Вы можете изобразить кандидата или членов его семьи как участников сатанинский ритуал, участие в фестивале в г. Эксклюзивно и спорно Чешская рощаили имея тайная встреча с инопланетянином.

Если у вас есть для этого амбиции и возможности, вы можете даже попытаться подделать сами выборы. В июне 2023 года российские теле- и радиостанции были взломаны и взломаны. транслировать полный мобилизационный приказ по дипфейк президента России Владимира Путина. Хотя это было бы сложнее сделать на выборах в США, в принципе любое новостное агентство может быть взломано, чтобы транслировать дипфейки их ведущих, объявляющих неправильные результаты или уступающего кандидата.

Защита реальности

Существует множество технологических и психологических способов обнаружения и защиты от ситуационных дипфейков.

На технологическом фронте все дипфейки содержат доказательства их истинной природы. Некоторые из этих признаков могут быть замечены человеческим глазом — например, чрезмерно гладкая кожа, странное освещение или архитектура — в то время как другие могут быть очевидны. обнаруживается только искусственным интеллектом, охотящимся за дипфейками.

мы строим Дефейкчтобы использовать ИИ для обнаружения контрольных признаков дипфейков, и мы работаем над тем, чтобы подготовить его к выборам 2024 года. Но даже если достаточно мощный детектор дипфейков, такой как наш, не может быть развернут ко дню выборов, есть психологические инструменты, которые вы, избиратель, можете использовать для выявления дипфейков: базовые знания, любопытство и здоровый скептицизм.

Если вы столкнулись с медиа-контентом о человеке, месте или событии, который кажется вам нехарактерным, доверьтесь своим базовым знаниям. Например, в недавняя мистификация пожара в Пентагоне, показанное здание выглядит скорее квадратным, чем пятиугольным, что может быть обманом.

Однако старайтесь не полагаться полностью на свои базовые знания, которые могут быть ошибочными или неполными. Никогда не бойтесь узнавать больше из надежных источников, таких как проверенные новости, рецензируемые научные статьи или интервью с сертифицированными экспертами.

Кроме того, имейте в виду, что дипфейки могут быть использованы для получения выгоды от того, чем вы являетесь. склонен верить о человеке, месте или событии. Один из лучших способов справиться с этим — просто знать о своих предубеждениях и будьте немного осторожны с любым медиа-контентом, который, кажется, подтверждает их.

Даже если станет возможным создать идеальные дипфейки ситуации, правдоподобность их предмета, скорее всего, останется их ахиллесовой пятой. Так что, с технологическим решением или без него, у вас все еще есть возможность защитить выборы от влияния фальшивых событий.

Об авторе

Кристофер Шварц, научный сотрудник с докторской степенью в области компьютерной безопасности, Рочестерского технологического института

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

Похожие книги:

О тирании: двадцать уроков двадцатого века

Тимоти Снайдер

Эта книга предлагает уроки истории для сохранения и защиты демократии, включая важность институтов, роль отдельных граждан и опасности авторитаризма.

Нажмите для получения дополнительной информации или для заказа

Наше время пришло: сила, цель и борьба за справедливую Америку

Стейси Абрамс

Автор, политик и активист, делится своим видением более инклюзивной и справедливой демократии и предлагает практические стратегии политического участия и мобилизации избирателей.

Нажмите для получения дополнительной информации или для заказа

Как умирают демократии

Стивен Левицкий и Дэниел Зиблат

В этой книге рассматриваются тревожные признаки и причины краха демократии, на основе тематических исследований со всего мира предлагается понимание того, как защитить демократию.

Нажмите для получения дополнительной информации или для заказа

Народ, нет: краткая история антипопулизма

Томас Франк

Автор предлагает историю популистских движений в Соединенных Штатах и ​​критикует «антипопулистскую» идеологию, которая, как он утверждает, душила демократические реформы и прогресс.

Нажмите для получения дополнительной информации или для заказа

Демократия в одной книге или меньше: как это работает, почему это не работает и почему исправить это проще, чем вы думаете

Дэвид Литт

Эта книга предлагает обзор демократии, включая ее сильные и слабые стороны, и предлагает реформы, чтобы сделать систему более гибкой и подотчетной.

Нажмите для получения дополнительной информации или для заказа