Уильям Перуджини/Shutterstock

Из многих «глубокие риски для общества и человечества«Что заставляет технических экспертов беспокоиться об искусственном интеллекте (ИИ), распространение фейковых изображений — это то, с чем знакомы обычные пользователи Интернета.

Дипфейки – видео или фотографии, на которых чье-то лицо или тело были изменены в цифровом формате так, что создается впечатление, что он делает что-то, чем он не является, – уже используются для распространения. политическая дезинформация и фейковая порнография.

Эти изображения обычно являются вредоносными и используются для дискредитации субъекта. Когда дело доходит до дипфейковой порнографии, подавляющее большинство жертв - женщины. Генеративный искусственный интеллект – технология, используемая для создания текста, изображений и видео. уже делаю Сексуальное насилие на основе изображений легче совершить.

Новая свод законов в Великобритании введут уголовную ответственность за распространение дипфейковой порнографии. Но учитывая внимание к искусственному интеллекту и дипфейкам, мы не можем забывать, как менее сложные технологии могут использоваться в качестве инструмента злоупотреблений с разрушительными последствиями для жертв.

Технологии и контроль

Когда я начал свое исследование технологий в сфере оскорбительных отношений, дипфейки были всего лишь точкой на горизонте. Моя работа была сосредоточена на роль смартфонов в жестоком обращении с женщинами, которые бежали от контролирующих отношений. Я обнаружил, что лица, совершившие домашнее насилие, использовали технологии, чтобы расширить сферу своей власти и контроля над своими партнерами. Это современный взгляд на тактику насилия, которая использовалась. задолго до смартфоны были в каждом кармане.

Мобильные телефоны можно использовать непосредственно для мониторинга и контроля, используя GPS-слежение или бомбардируя жертву текстовыми сообщениями, видео и голосовыми вызовами. Один участник моего исследования в 2019 объяснила, как ее жестокий партнер использовал свой телефон для доступа к социальным сетям, отправляя ей оскорбительные фотографии через Instagram и настойчивые и оскорбительные сообщения в WhatsApp.

Когда она была со своими друзьями, он сначала писал текстовые сообщения, звонил, а затем постоянно звонил ей по видео, чтобы проверить, где она находится, и узнать, с кем она была. Когда участница выключила телефон, ее тогдашний партнер связался с друзьями, засыпав их сообщениями и звонками.

Эта участница почувствовала себя слишком смущенной, чтобы договориться о встрече со своими сверстниками, и поэтому перестала выходить на улицу. Других, находящихся в аналогичной ситуации, могут исключить из социальных планов, если друзья хотят избежать контакта со стороны обидчика своего друга. Такая социальная изоляция является частой частью домашнего насилия и важным индикатором контроля над отношениями.

По данным благотворительной организации по борьбе с домашним насилием Refuge, более 72% людей, пользующихся его услугами, сообщают о злоупотреблениях с использованием технологий.

Мобильные телефоны — это шлюз к другим гаджетам через «Интернет вещей» — устройства, подключенные к Интернету и способные обмениваться данными. Эти инструменты также могут быть использованы злоумышленниками в качестве оружия. Например, использование мобильных телефонов для изменить настройки температуры на домашнем термостате, создавая экстремальные значения от одного часа к другому.

Сбитые с толку люди ищут объяснений у своего партнера только для того, чтобы услышать, что это, должно быть, плод их воображения. Техники газлайтинга подобные случаи заставляют жертв сомневаться в собственном здравомыслии, что подрывает их уверенность в собственных суждениях.

Современный паноптикум

Одним нажатием кнопки мобильные телефоны позволяют осуществлять беспрецедентное наблюдение за другими людьми. Находясь в кармане злоумышленника, они могут быть использованы для наблюдения за нынешними и бывшими партнерами в любое время, в любом месте и – если позволяет сигнал – где угодно. Это дает преступникам сила всемогущества, в результате чего жертвы верят, что за ними наблюдают, даже если это не так.

Здесь вспоминаются работы философа XVIII века Иеремии Бентама, который ввел понятие «паноптикума». Бентам предложил «идеальную» тюремную систему, в которой в центре находится сторожевая вышка, окруженная отдельными камерами.

Изолированные друг от друга заключенные будут видеть только башню – постоянное напоминание о том, что за ними постоянно следят, даже если они не видят охранника внутри нее. Бентам считал, что такая структура обеспечит самонаблюдение заключенных до тех пор, пока в конечном итоге не отпадут замки и решетки.

Моё последнее исследование показывает, что мобильные телефоны создают аналогичную динамику в оскорбительных отношениях. Телефоны играют роль башни, а преступники — охранников внутри нее.

В этом современном паноптикуме жертвы могут находиться где-то рядом, на виду у незнакомцев, друзей и семьи. Однако из-за наличия телефона они чувствуют, что их жестокие партнеры по-прежнему наблюдают и контролируют их.

Как выразился один из участников: «Вы чувствуете, что свободы нет, даже когда вас нет дома. Ощущение, будто ты где-то заперт, у тебя нет свободы, кто-то тобой управляет».

Жертвы насилия продолжают следить за собой, даже когда преступников нет рядом. Они действуют так, чтобы, по их мнению, доставить удовольствие (или, по крайней мере, не разозлить) своих обидчиков.

Такое поведение часто рассматривается окружающими как странное и слишком легко отвергается как паранойя, тревога или более серьезные проблемы с психическим здоровьем. Основное внимание уделяется поведению жертвы и игнорируется причина – оскорбительное или преступное поведение со стороны ее партнера.

По мере того, как технологии становятся более совершенными, инструменты и стратегии, доступные злоумышленникам, будут продолжать развиваться. Это расширит сферу влияния преступников и предоставит новые возможности для слежки, газлайтинга и злоупотреблений.

До тех пор, пока технологические компании не учтут опыт жертв домашнего насилия и не встроят механизмы безопасности в дизайн своей продукции, злоупотребление будет продолжаться. спрятался на виду.

Тирион Хавард, доцент кафедры социальной работы, London South Bank University

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.