ULU_BIRD / Shutterstock.com

Мустафа любит хороший кофе. В свободное время он часто просматривает высококачественные кофемашины, которые он не может себе позволить, но на которые копит деньги. Однажды, отправляясь на свадьбу друга за границу, он садится рядом с другом в самолете. Когда Мустафа жалуется на то, сколько он заплатил за свой билет, оказывается, что его друг заплатил меньше половины того, что он заплатил, даже если они забронировали номер в одно и то же время.

Он рассматривает возможные причины этого и приходит к выводу, что это должно быть связано с его просмотром дорогих кофеварок и оборудования. Он очень рассержен на это и жалуется авиакомпании, которая посылает ему теплые извинения, которые относятся к персонализированные модели ценообразования, Мустафа считает, что это несправедливо, но не оспаривает это. Дальнейшее преследование стоило бы ему времени и денег.

Эта история - которая является гипотетической, но может и происходит - демонстрирует потенциальный вред для людей от использования данных в нынешнюю эпоху «больших данных». Аналитика больших данных включает использование больших объемов данных из многих источников, которые связаны и анализируются, чтобы найти шаблоны, которые помогают предсказать поведение человека. Такой анализ, даже если он совершенно легален, может навредить людям.

Например, Мустафа, вероятно, был затронут персонализированной ценовой практикой, в результате которой его поиск элитных кофемашин использовался, чтобы сделать определенные предположения о его готовности платить или покупательной способности. Это, в свою очередь, могло привести к его более дорогой стоимости авиабилетов. Хотя это не привело к серьезному ущербу в случае Мустафы, случаи серьезного эмоционального и финансового ущерба, к сожалению, не редкость, в том числе отказ от ипотеки для физических лиц и риски для общего кредитоспособности человека на основе ассоциаций с другими людьми. Это может произойти, если человек имеет некоторые сходные характеристики с другими людьми, которые имеют плохие истории погашения.

Могут также возникнуть случаи эмоционального вреда. Представьте себе пару, которая узнает, что ждет столь желанного ребенка, но через пять месяцев у нее случается выкидыш. Пара может обнаружить, что они продолжают получать рекламу от магазинов, специализирующихся на продуктах для младенцев, спустя несколько месяцев, отмечая, что это должно было стать «вехой», вызывающей дистресс. Это еще один гипотетический, но полностью возможный сценарий.

Закон - или его отсутствие

Во многих из этих случаев, поскольку вредная практика, возможно, не нарушила каких-либо законов, у тех, кто пострадал от использования данных, есть ограниченные или никакие правовые возможности, открытые для них. Например, то, что случилось с Мустафой, было совершенно законным, поскольку в настоящее время не существует законов, запрещающих персонализированное ценообразование как таковое. Наши действующие правовые системы не обеспечивают надлежащей защиты людей от вреда, наносимого большими данными.

Это потому, что очень трудно проследить, как наши данные связаны и используются. Даже если бы авиакомпания совершила что-то противозаконное, например, нарушив законы о защите данных, Мустафе было бы почти невозможно это выяснить. Люди, которые чувствуют, что они пострадали от использования данных, могут изо всех сил пытаться показать, как их данные использовались для причинения этого вреда, какие данные были задействованы или какой контроллер данных их использовал. И поэтому им может не хватать доказательств, которые им понадобятся, чтобы получить юридическое средство правовой защиты.

Кроме того, даже если они показывают, как что-то, что кто-то сделал со своими данными, причиняет им вред, это конкретное использование Информация для покупателей, чтобы скорректировать цены, например, может не быть незаконным.

Точно так же вред может быть вызван не собственными данными, а использованием данных других людей (данных третьих лиц). Например, в случае Мустафы, возможно, другие люди, которые также интересовались дорогими кофемашинами, имели очень высокие доходы или покупали дорогие вещи. Это, возможно, использовалось, чтобы предположить, что Мустафа также попал в эту категорию, что, возможно, привело к повышению цен на него для других продуктов. Лицо, пострадавшее в результате использования сторонних данных, часто не имеет средств защиты в соответствии с действующим законодательством о защите данных.

Компании могут предполагать что-то о вас из ваших привычек просмотра. Экипаж / Unsplash, FAL

Новая система

Чтобы помочь решить такие проблемы, мы спорим что мы должны признать, что некоторые риски, связанные с использованием данных, невозможно предотвратить. Вместо того, чтобы сосредоточиться исключительно на попытках минимизировать или избежать таких рисков, нам также необходимо найти способы более эффективной поддержки людей, которые страдают от вреда от использования данных, например, путем активного мониторинга и реагирования на вред, причиняемый использованием данных, включая законное использование данных.

Мы считаем, что в рамках этой системы должен быть создан институт нового типа. Мы называем их органами по снижению вреда. Они будут созданы на национальном уровне, и люди, которые чувствуют, что они пострадали от использования данных, но не имеют права на средства правовой защиты, могут обратиться к ним, чтобы сообщить о вреде, который они считают вызванным использованием данных. В отличие от традиционных средств правовой защиты органы по снижению вреда могут оказывать поддержку даже в тех случаях, когда законы не нарушались. Их было бы легко использовать людям, и они были бы гибкими, чтобы они могли поддерживать людей там, где и как они больше всего в этом нуждаются, предоставляя людям больше власти и усиливая коллективную ответственность за использование данных.

Эти предлагаемые органы будут собирать информацию о том, какие виды ущерба причиняются: в настоящее время нет национальных или международных органов, которые бы систематически собирали информацию о вреде данных. Они также будут передавать информацию лицам, определяющим политику, и пользователям данных, чтобы помочь улучшить то, как все делается. И в тех случаях, когда люди страдают от финансового ущерба, но не имеют доступа к юридической помощи, они могут также оказать финансовую поддержку.

Аналитика больших данных по достоинству оценивается благодаря множеству новых возможностей, которые она предлагает. Но это будет неизбежно, что некоторым людям будет причинен вред. Как общество, мы должны признать эту истину и предоставить лучшую помощь тем, кто страдает от вреда, чтобы никто, кто несет расходы за эти новые практики, не остался один.

Об авторах

Айслинг МакМахон, доцент кафедры права, Национальный университет Ирландии Мейнут; Алена Буйкс, профессор этики, Технический университет Мюнхенаи Барбара Прейнсак, профессор сравнительного анализа политики, Венский университет

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.