По мере того как пользователи Facebook по всему миру начинают понимать, некоторые из их любимых технологий могут быть использованы против них. Это не просто скандал над психологической профилирующей фирмой Доступ к Cambridge Analytica к данным из десятков миллионов профилей Facebook. Фильтрующие пузырьки людей заполняются тщательно продуманной информацией - и дезинформацией - изменяя их поведение и мышление, и даже их голоса.

Люди, как индивидуально, так и как общество в целом, борются за понимание как их новостные ленты обратились против них, Они приходят к пониманию того, насколько тщательно контролируются фиды Facebook, с очень индивидуальными объявлениями. Тем не менее этот набор проблем бледнеет по сравнению с теми, которые возникают в результате следующей технологической революции, которая уже идет: виртуальная реальность.

С одной стороны, виртуальные миры имеют почти неограниченный потенциал. Игры VR могут лечить наркоманию и, возможно, поможет решить проблему опиоидная эпидемия, Тюремные заключенные могут использовать VR-симуляции для готовиться к жизни после их освобождения, Люди участвуют в этих впечатляющих впечатлениях, которые могут быть более психологически мощными, чем любые другие технологии на сегодняшний день: первое современное оборудование, предлагающее возможность продано в течение 14 минут.

В этих новых мирах каждый лист, каждый камень на виртуальной земле и каждый разговор тщательно строятся. В наших исследованиях нового определения этики в виртуальной реальности мои коллеги и я опросили разработчиков и ранних пользователей виртуальной реальности, чтобы понять какие риски идут и как мы можем их уменьшить.

Интенсивность будет повышаться

«VR - очень личная, интимная ситуация. Когда вы носите наушники VR ... вы действительно этому верите, это действительно захватывающе », - говорит один из разработчиков, с которым мы говорили. Если кто-то вредит вам в VR, вы это почувствуете, и если кто-то манипулирует вами, чтобы что-то верить, он будет придерживаться.

Это погружение - это то, чего хотят пользователи: «VR действительно находится в погружении ... В отличие от телевизора, на котором меня можно постоянно отвлекать», - сказал нам один пользователь. Эта погруженность - вот что дает VR беспрецедентную силу: «действительно, то, что VR пытается здесь сделать, - это дублировать реальность, где она обманывает ваш разум».

Эти трюки могут быть приятными - позволяя людям летающие вертолеты или возвращение обратно древний Египет, Они могут быть полезны, предлагая контроль над болью или лечения психологические условия.

Но они также могут быть злыми. Даже обычная шутка, которую друзья играют друг с другом в режиме онлайн - вход в систему и публикация как друг друга - может принять совершенно новое измерение. Один пользователь VR объясняет: «Кто-то может надеть головной блок VR и перейти в виртуальный мир, предполагающий вашу личность. Я думаю, что кража личных данных, если VR станет мейнстримом, станет безудержной ».

Данные будут еще более личными

VR сможет собирать данные на совершенно новом уровне. Казалось бы, безобидные инфракрасные датчики, предназначенные для помощи при движении и выравнивании, могут захватывать почти идеальные представления о реальном окружении пользователей.

Кроме того, данные и взаимодействия, которые дают VR способность лечить и диагностировать физическое и психическое здоровье может использоваться для гипер-персонализации опыта и информации для точной уязвимости отдельных пользователей.

В сочетании, интенсивность опыта виртуальной реальности и даже более личные данные, которые они собирают, представляют собой призрак поддельных новостей, который намного более мощный, чем текстовые статьи и мемы. Скорее, погруженный, персонализированный опыт может полностью убедить людей в совершенно альтернативных реалиях, к которым они совершенно восприимчивы. Такие захватывающие рекламные объявления VR находятся на горизонте уже в этом году.

Создание виртуального будущего

Человек, который использует виртуальную реальность, часто охотно контролируется в гораздо большей степени, чем это было раньше. Все, что человек видит и слышит - и, возможно, даже чувствует или пахнет - полностью создано другим человеком. Эта сдача приносит как обещание, так и опасность. Возможно, в тщательно построенных виртуальных мирах люди могут решать проблемы, которые ускользали от нас в действительности. Но эти виртуальные миры будут построены в реальном мире, который нельзя игнорировать.

В то время как технологи и пользователи очищают злонамеренное, манипулирующее прошлое, им нужно будет выйти далеко за пределы создание здоровых социальных сетей, Так же тщательно, как разработчики сами создают виртуальные миры, общество в целом должно сознательно и кропотливо строить культуру, в которой эти технологии существуют.

Во многих случаях разработчики являются первыми союзниками в этой битве. Наши исследования показали, что разработчики VR больше заботятся о благополучии своих пользователей, чем о самих пользователях. Тем не менее, один разработчик признает, что «факт в том, что ... я могу рассчитывать на свои пальцы на количество опытных разработчиков, которых я действительно встречал». Даже эксперты только начали изучать этики, безопасности и конфиденциальности в сценариях виртуальной реальности.

Разработчики, с которыми мы говорили, выразили желание разработать рекомендации о том, где использовать границы, и как предотвратить опасные злоупотребления их платформ. В качестве начального шага мы приглашенные разработчики и пользователи VR из девяти онлайн-сообществ, чтобы работать с нами, чтобы создать набор руководящих принципов для этики VR. Они внесли предложения в отношении инклюзивности, защиты пользователей от манипулятивных злоумышленников и ограничений на сбор данных.

Однако, как показывают фиаско с Facebook и Cambridge Analytica, люди не всегда следуют рекомендациям или даже правила и политики платформ - и эффекты могут быть еще хуже в этом новом мире VR. Но наш первоначальный успех, достигнутый в согласии с руководящими принципами VR, служит напоминанием о том, что люди могут выходить за рамки других технологий: мы можем работать вместе, чтобы создавать полезные технологии, которые мы хотим.

Об авторе

Элисса Редмилес, доктор философии. Студент в области компьютерных наук, Университет штата Мэриленд

Эта статья изначально была опубликована в Беседа, Прочтите оригинал статьи.

Книги по этой теме

at Внутренний рынок самовыражения и Amazon