Ваше местоположение не все, что он знает. AP Photo / Мэри Альтаффер

Бизнес-модель Uber невероятно проста: это платформа, которая облегчает обмены между людьми. И Убер был невероятно успешен в этом, почти исключая транзакционные издержки of вести бизнес во всем, от шаттла по городу до доставки еды.

Если вы используете Uber - или, возможно, даже если вы этого не сделаете - он знает множество данных о вас, включая ваше местоположение, пол, историю расходов, контакты, уровень заряда телефона и даже идете ли вы домой с ночевкой, Может скоро узнаю будь ты пьян или нет.

Хотя это достаточно страшно, объедините все эти данные с Uber экспертиза при анализе его через призму поведенческая наука и у вас есть опасный потенциал для эксплуатации пользователей с целью получения прибыли.

Убер вряд ли одинок. Наши исследования показывают крупнейшие цифровые платформы - Airbnb, Facebook, eBay и другие - собирают так много данных о том, как мы живем, что у них уже есть возможность манипулировать своими пользователями в широком масштабе. Они могут предсказать поведение и повлиять на наши решения о том, куда нажимать, делиться и тратить.

В то время как большинство платформ еще не используют все эти возможности, манипуляции с помощью методов поведенческой психологии могут происходить незаметно и оставить мало следов. Если мы не установим правила дорожного движения сейчас, это будет намного сложнее обнаружить и остановить позже.

«Выбор архитектуры»

Платформой может быть любое пространство, облегчающее транзакции между покупателями и продавцами. Традиционные примеры включают блошиные рынки и торговые площадки.

Цифровая платформа служит той же цели, но дает владельцу возможность «опосредовать» своих пользователей во время их использования - и часто, когда они этого не делают. Под этим мы подразумеваем, что он может наблюдать и изучать невероятное количество информации о поведении пользователей, чтобы усовершенствовать то, что ученые по поведению называют «выбор архитектуры”Незаметные элементы дизайна, предназначенные для воздействия на поведение человека посредством представления решений.

Uber знает, когда батарея вашего телефона разряжается. boyhey / Shutterstock.com

Например, гостиницы экспериментировал со своими драйверами определить наиболее эффективные стратегии, позволяющие держать их в дороге как можно дольше. Эти стратегии включают в себя использование когнитивных предубеждений, таких как неприятие потерь и переоценка событий с низкой вероятностью, даже если водитель едва зарабатывает достаточно денег, чтобы это стоило того. Водители в конечном итоге, как игроки в казино, вынуждены играть чуть дольше, несмотря на шансы.

Uber не сразу ответил на запрос о комментарии.

Airbnb также экспериментирует со своими пользователями. Он использовал поведенческую науку заставлять хозяев снижать свои ставки и принимать заказы без проверки гостей, что создает реальные риски для хозяев, особенно когда они делят свою квартиру.

Хотя эти примеры кажутся относительно мягкими, они демонстрируют, как цифровые платформы способны спокойно проектировать системы, чтобы направлять действия пользователей потенциально манипулятивными способами.

И по мере роста платформ они становятся только лучшим выбором архитекторов. С его IPO огромный приток денег инвесторов для финансирования большего количества данных и поведенческая наукаУбер может перебраться на опасно неэтичную территорию - легко представить учитывая его прошлые практики.

Например, если приложение распознает, что вы пьяны или находитесь в районе, куда вы редко ездите - и в том, что, как показывают его данные, высокий уровень преступности - оно может взимать более высокую ставку, зная, что вы вряд ли откажетесь.

Юридические проблемы

И это еще не все домыслы.

В попытке обмануть правоохранительные органы, пытающиеся расследовать дело компании, Uber на самом деле нашли способ определения государственных регуляторов пытаясь использовать его приложение, а затем помешал им получить аттракционы.

Это одна из причин, по которой законодатели и регуляторы обсуждали сложные, взаимосвязанные роли поведенческой науки и техники годами, И некоторые компании, Uber в частности, были расследованы на наличие множества недобросовестных дискриминация в неправильное использование пользовательских данных.

Но большинство манипуляций, которые мы определили и о которых беспокоимся, не являются явно незаконными. И поскольку регуляторные органы часто не могут идти в ногу с постоянно развивающимся использованием технологий и архитектуры выбора, это, вероятно, останется таковым.

Принимая во внимание отсутствие четко определенных и применимых правовых гарантий, склонность компаний платформ к использованию поведенческой науки за счет пользователей останется в значительной степени неконтролируемой.

Этический кодекс

На наш взгляд, одним из решений является установление этического кодекса, которому должны следовать компании на платформе. И если они не примут это добровольно, инвесторы, сотрудники и пользователи могут потребовать это.

С середины 20-го века написаны кодексы этического поведения был основным продуктом американских компаний. Юридические и медицинские профессии полагался на них для Millennia. И исследования предполагают они эффективны для поощрения этического поведения в компаниях.

Мы рассмотрели сотни этических кодексов, включая те, которые предназначены для технологических и компьютерных компаний. Основываясь на наших исследованиях, мы призываем цифровые платформы принять пять этических принципов:

1. Вся архитектура выбора, используемая на платформе, должна быть полностью прозрачной. Платформы должны раскрывать информацию о том, когда они используют инструменты поведенческой науки для воздействия на поведение пользователей.

2. Пользователи должны иметь возможность свободно и легко делать выбор на платформе, а архитекторы выбора должны ограничивать поведенческие вмешательства напоминаниями или подсказками, которые наименее вредны для автономии пользователя.

3. Платформы должны избегать «подталкивания» пользователей таким образом, чтобы они использовали бессознательное и иррациональное принятие решений на основе импульса и эмоций. Новое исследование показывает, что прозрачная архитектура выбора может работать так же хорошо

4. Платформы должны осознавать силу, которой они обладают, и стараться не использовать созданные ими рынки, в том числе злоупотребляя информационной асимметрией между собой и пользователями или выступая против разумных правил.

5. Платформы должны избегать использования архитектуры выбора, которая не позволяет пользователям действовать в своих собственных интересах. Как нобелевский лауреат по поведенческому экономисту Ричард Талер положитеМы должны только «подтолкнуть к добру».

Большая техническая и поведенческая наука теперь интегрированы таким образом, что делают компании чрезвычайно успешными, от жужжание зубных щеток это делает чистить зубы кажется полезным используя тексты, чтобы подтолкнуть бедных матерей к использованию здравоохранения.

Несмотря на то, что результаты могут значительно улучшить нашу жизнь, компаниям проще, чем когда-либо, манипулировать пользователями, чтобы повысить их итоги.

Об авторах

Эбби Стемлер, доцент кафедры делового права и этики, Университет Индианы; Джошуа Э. Перри, доцент кафедры делового права и этики, Университет Индианыи Тодд Хау, доцент кафедры делового права и этики, Университет Индианы

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

Книги по этой теме

at Внутренний рынок самовыражения и Amazon