Amazon Echo и голосовой помощник Alexa широко освещали проблемы с конфиденциальностью. Будь то количество данных, которые они собирают или тот факт, что они, как сообщается, платят работникам, а иногда и внешним подрядчикам со всего мира, слушать записи для повышения точностиСуществует возможность утечки конфиденциальной личной информации через эти устройства.
Но риски распространяются не только на наши отношения с Amazon. Основные проблемы конфиденциальности начинают возникать в связи с тем, как устройства Alexa взаимодействуют с другими сервисами, что создает риск возникновения антиутопической спирали роста. наблюдение и контроль.
Настройка Echo превращает Amazon в дополнительный шлюз, через который должно проходить каждое интерактивное взаимодействие, собирая данные о каждом из них. Alexa знает, что вы ищете, слушаете или отправляете в своих сообщениях. Некоторые смартфоны уже делают это, особенно те, которые сделаны Google и Apple, которые контролируют аппаратное, программное обеспечение и облачные сервисы.
Но разница с Echo заключается в том, что он объединяет в себе худшие аспекты смартфонов и умных домов. Это не персональное устройство, а интегрированное в домашнюю среду, всегда ожидающее прослушивания. Alexa даже представляет арт-проект (не созданный Amazon), который пытается пролить свет на эту жуткую «Задайте вопрос слушателям», Которая комментирует, насколько устройство шпионит за вами. Некоторые устройства Echo уже имеют камеры, и если бы были добавлены возможности распознавания лиц, мы могли бы войти в мир повсеместного мониторинга в наших самых закрытых пространствах, даже отслеживаемых, когда мы перемещаемся между локациями.
{vembed Y = MnvJ4Bh60L8}
Эта технология дает Amazon огромный контроль над вашими данными, что долгое время было целью большинства технологических гигантов. Пока Apple и Google - кто сталкивается с их собственные проблемы конфиденциальности - иметь похожих голосовых помощников, они, по крайней мере, добились прогресса в запуске программного обеспечения непосредственно на своих устройствах, поэтому им не нужно будет передавать записи ваших голосовых команд на свои серверы. Amazon, похоже, не пытается сделать то же самое.
Частично это связано с агрессивной бизнес-моделью фирмы. Системы Amazon, похоже, предназначены не только для сбора как можно большего количества данных, но и для создания способов их обмена. Таким образом, потенциальные проблемы намного глубже, чем Алекса, слушающая личные моменты.
Поделиться с правоохранительными органами
Одна из проблемных областей - это возможность уши правоохранительных органов в наших домах, школах и на рабочих местах. Apple имеет история сопротивляющихся запросов ФБР для пользовательских данных, и Twitter относительно прозрачен в отношении отчетности по как он отвечает на запросы правительств.
Но Ring, компания, занимающаяся подключением к Интернету камер видеонаблюдения, принадлежащая Amazon, имеет громкие отношения с полицией, которые включают передача пользовательских данных. Даже как граждане и полиция общаются все чаще контролируется и контролируется Amazon.
Всегда слушаю. Tomasso79 / Shutterstock
Это рискует внедрить культуру государственного контроля в операции Amazon, что может иметь тревожные последствия. Мы видели многочисленные примеры того, как правоохранительные и другие государственные органы в демократических странах используют личные данные для слежки за людьми, как в нарушение закона и внутри него, но по причинам, которые идут далеко за пределами предотвращение терроризма. Этот вид массового надзора также создает серьезный потенциал для дискриминации, поскольку неоднократно было показано, что оно оказывает женщины и меньшинство группы.
Если Amazon не хочет отталкиваться, это не сложно представить Алекса записи передаются на запросы государственных служащих и сотрудников правоохранительных органов, которые могут желать нарушить дух или букву закона. А учитывая международные соглашения об обмене разведданными, даже если вы доверяете собственному правительству, доверяете ли вы другим?
В ответ на эту проблему представитель Amazon сказал: «Amazon не раскрывает информацию о клиентах в ответ на требования правительства, если только мы не обязаны это делать в соответствии с юридически действительным и слепым приказом. Amazon возражает против чрезмерных или иных неуместных требований как само собой разумеющееся.
«Клиенты Ring решают, следует ли делиться отснятым материалом в ответ на запросы от местных полицейских, расследующих дела. Местная полиция не может увидеть какую-либо информацию, касающуюся того, какие пользователи Ring получили запрос, и отказались ли они поделиться или отказаться от будущих запросов». Они добавил, что хотя местная полиция может получить доступ к приложению «Соседи» в Ring для сообщения о преступной и подозрительной деятельности, они не могут видеть или получать доступ к информации учетной записи пользователя.
Отслеживание проблем со здоровьем
Здоровье - это еще одна область, где Amazon пытается захватить власть. Национальная служба здравоохранения Великобритании (NHS) подписала соглашение о предоставлении медицинских консультаций предоставляется через эхо, На первый взгляд, это просто расширяет способы доступа к общедоступной информации, такой как веб-сайт NHS или телефонная линия 111 - официальные данные о пациентах не передаются.
Но это создает возможность того, что Amazon может начать отслеживать, какую медицинскую информацию мы запрашиваем через Alexa, эффективно создавая профили истории болезни пользователей. Это может быть связано с предложениями о покупках в Интернете, сторонними объявлениями о дорогостоящих методах лечения или даже объявлениями, которые потенциально травмируют (например, женщины, которые перенесли выкидыш) показываются детские товары).
Представитель Amazon сказал: «Amazon не создает профили здоровья клиентов на основе взаимодействий с контентом nhs.uk и не использует такие запросы в маркетинговых целях. Alexa не имеет доступа к какой-либо личной или частной информации от NHS ».
Грубость и сбои в алгоритмической рекламе будут нарушать профессиональные и моральные стандарты, которые службы здравоохранения стремятся поддерживать. Кроме того, было бы крайне инвазивным обращаться с данными так же, как это делают многие записи Echo. Хотели бы вы, чтобы случайный внешний подрядчик знал, что вы просите совета по сексуальному здоровью?
Прозрачность
В основе этих проблем лежит отсутствие реальной прозрачности. Амазонка тревожит тихий, уклончивый и неохотный действовать, когда дело доходит до устранения последствий их практики для конфиденциальности, многие из которых скрыты глубоко в рамках их условий или труднодоступных настроек. Даже опытные пользователи не обязательно знают полная степень рисков конфиденциальностии когда функции конфиденциальности добавляются, они часто только информировать пользователей после того, как исследователи или пресса подняли вопрос, Совершенно несправедливо возлагать такое бремя на пользователей, чтобы выяснять и смягчать эти риски.
Итак, если у вас дома есть эхо, что вам делать? Есть много советов, доступных на как сделать устройство более приватнымНапример, настройка записи голоса для автоматического удаления или ограничения того, какие данные передаются третьим лицам. Но умные технологии - это почти всегда технологии наблюдения, и лучший совет - не приводить их в свой дом.
В ответ на основные пункты этой статьи представитель Amazon сказал The Conversation:
В Amazon доверие клиентов находится в центре всего, что мы делаем, и мы очень серьезно относимся к конфиденциальности и безопасности. Мы всегда верили, что конфиденциальность должна быть основополагающей и встроенной в каждый компонент оборудования, программного обеспечения и услуг, которые мы создаем. С самого начала мы ставим клиентов под контроль и всегда ищем способы сделать их еще проще для прозрачности и контроля над своим опытом работы с Alexa. Мы ввели несколько улучшений конфиденциальности, в том числе возможность автоматического удаления записей голоса через три или 18 месяцев на постоянной основе, возможность попросить Alexa «удалить то, что я только что сказал» и «удалить то, что я сказал сегодня», и Alexa Privacy Hub, ресурс, доступный по всему миру, предназначенный для того, чтобы помочь клиентам узнать больше о нашем подходе к конфиденциальности и элементах управления, которые они имеют. Мы продолжим изобретать больше функций конфиденциальности от имени клиентов.
В эту статью были внесены изменения, чтобы прояснить, что функция «Спроси у слушателей» - это арт-проект, созданный третьей стороной.
Об авторе
Гарфилд Бенджамин, научный сотрудник, Школа медиаискусства и технологий, Университет Солента
Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.
