Частные компании контролируют онлайн-ненависть без независимого надзора или регулирования, что имеет серьезные последствия и создает угрозу для основных прав и свобод человека. (Шаттерстки)
Факел, освещенный факелами вооруженных сторонников превосходства в последнее время в Шарлоттсвилле, штат Вирджиния, продолжает вызывать споры о том, как следует регулировать деятельность групп ненавистников. На фоне растущего общественного давления после марша интернет-компании поспешили убрать со своих платформ сайты, поддерживающие насильственные высказывания на почве ненависти.
GoDaddy прекратил свои доменные сервисы на неонацистский сайт The Daily Stormer, как это сделал Google, Cloudflare, компания, которая защищает сайты от интернет-атак, также запрещенный сайт ненависти с его платформы. Россия заказала сайт запрещенным от пребывания в стране.
Мое исследование и моя книга Chokepoints: Глобальное частное регулирование в Интернете продемонстрировать, что многие интернет-компании уже удаляют контент и запрещают пользователей «добровольно», то есть в отсутствие законодательства или каких-либо судебных процессов. Крупные посредники, в том числе Google, PayPal, GoDaddy, Twitter и Facebook, добровольно контролируют свои платформы для контента о сексуальном насилии над детьми, экстремизма и незаконной торговли контрафактными товарами.
Многие по понятным причинам приветствуют эти усилия по искоренению ненавистнических высказываний и другого нежелательного контента. Однако усилия интернет-компаний как фактических регуляторов речи поднимают серьезные вопросы: как регулировать онлайн-контент? Кем?
Я не поддерживаю сторонников превосходства белых и не спорю с политикой такой речи. Скорее, я говорю о том, что нам нужно серьезно подумать о том, как регулировать онлайн-контент, поскольку следующий случай может быть не таким очевидным.
Существуют серьезные проблемы с тем, чтобы полагаться на влиятельные компании для контроля интернета, потому что их правоприменительная практика крайне непрозрачна и склонна к произвольному толкованию.
Тревожный прецедент
В резком контрасте с аплодисментами интернет-компаний за их публичную оппозицию Daily Stormer, генеральный директор Cloudflare Мэтью Принс предложил нюансированную предостерегающую перспективу, предупреждая, что отказ от услуг групп ненависти в ответ на давление со стороны общественности создает тревожный прецедент в полицейской онлайн-речи ,
В блоге Объясняя действия Cloudflare против Daily Stormer, Принс утверждал, что компания считает надлежащую процедуру «более важным принципом», чем свобода слова. Надлежащая процедура, сказал он, означает, что «вы должны быть в состоянии знать правила, которым будет следовать система, если вы будете участвовать в этой системе». В этом заявлении удачно отражены проблемы, присущие посредникам, которые де-факто работают в качестве регуляторов контента и поведения в Интернете.
Ранее в этом году, Shopify сотрудников и сотни тысячи людей призвал и ходатайствовал платформа онлайн-торговли, чтобы прекратить хостинг крайне правого интернет-магазина Breitbart Media. Восстановлен исполнительный председатель Стивен Бэннон звонки Брайтбарт «платформа для альт-право». Так называемый «alt-right» - термин, популяризируемый Ричард Бертран Спенсер - включает в себя сочетание идеологий белых сторонников превосходства, сепаратизма, неонацизма, фашизма, расизма, антисемитизма, исламофобии и популизма.
Генеральный директор Shopify Тобиас Лютке заявил, что защищает свободу слова поскольку компания в Оттаве продолжала принимать интернет-магазин Брейтбарта под угрозой сотрудники увольняются, После публики давление и массовая кампания окрестили #DeleteShopify привело к проверке, которая показала больше сомнительное делоШопифи был принудительный принять «Политика допустимого использования».
Контрастные примеры The Daily Stormer и его удаления интернет-компаниями, а также стойкая поддержка Shopify Breitbart демонстрируют крайнюю дилемму, которая только обещает усилиться.
Произвольная политика, регулирование
Интернет-посредники могут стать влиятельными регуляторами по широкому кругу вопросов, потому что они могут действовать быстро и без постановления суда. Важно отметить, что они могут свободно подвергать цензуре любой контент или блокировать пользователей в соответствии с их соглашениями об условиях обслуживания.
PayPal оставляет за собой право прекратить предоставление своих услуг пользователям «по любой причине и в любое время, ”Язык, который отражен в большинстве сервисных соглашений посредников. Таким образом, способность к произвольному регулированию встроена во внутренние правила посредников.
Принц предупредил, что действия Cloudflare против Daily Stormer создают прецедент для посредников в полицейской речи без постановления суда, требующего от них этого.
Эти посредники часто действуют по указанию правительств, которые предпочитают, чтобы компании были публичным (но в основном не подотчетным) лицом интернет-регулирования. Но эти фирмы, как правило, плохо подготовлены к тому, чтобы отличать законность от незаконности, вызывая неправомерные тейк-апы и ошибочно нацеливаясь на законное поведение.
В равной степени проблематично: процессы защиты посредников часто непрозрачны, поскольку их модераторы контента произвольно интерпретируют их сложные, быстро меняющиеся внутренние правила. Эти проблемы усугубляются растущим использованием посредниками автоматизированных инструментов для выявления и удаления проблемного контента на своих платформах.
Существует также проблема так называемого «ползучести миссий», когда правила, впервые введенные в действие против жестокого обращения с детьми или терроризма - заслуживающие внимания катализаторы для принудительных действий - впоследствии применяются к другим явно менее вредным вопросам, таким как несанкционированная загрузка защищенного авторским правом контента.
Мистическое будущее здесь
Регулирующие усилия обычно распространяются от цензурирования насильственного разжигания ненависти к другой речи, которая может быть сочтена спорной некоторые, как, например, черным Lives материи. Кроме того, правительства во всем мире регулярно оказывают давление на посредников цензор и трек критики и политические противники.
Когда основные посредники становятся регулирующими органами, ответственными за контроль над содержанием от имени правительств или в ответ на громкие протесты, их и без того значительное влияние возрастает. Американские интернет-компании уже доминируют во многих отраслях промышленности, включая поиск, рекламу, регистрацию доменов, оплату и социальные сети. Облачный светляк принц по праву предупреждал что в зависимости от «нескольких гигантских сетей» «небольшое количество компаний будет в значительной степени определять, что может и не может быть в сети».
Это антиутопическое будущее уже здесь.
Разрушение Daily Stormer, несомненно, делает мир лучше. Но действительно ли мы хотим, чтобы такие компании, как Facebook и Twitter, решали - независимо, произвольно и тайно - какой контент мы можем получить и поделиться им?
Учитывая эти, казалось бы, неразрешимые проблемы, что мы можем сделать? Во-первых, мы должны избегать управления на основе протестов или давления со стороны СМИ. Вместо, нам нужен четкий набор правил чтобы посредники могли реагировать последовательно, прозрачно и с уважением к надлежащей процедуре, как рекомендовал Принц.
Правительствам следует уточнить характер и, что важно, ограничения регулирующих обязанностей посредников. Наконец, мы должны перестать управлять в ответ на конкретные кризисы - так называемые «фальшивые новости», терроризм и группы ненависти - и вместо этого критически подумать о том, как мы можем и должны управлять интернетом.
Об авторе
Наташа Тусиков, доцент кафедры криминологии, кафедра социальных наук, Йоркский университет, Канада
Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.
Книги по этой теме
at Внутренний рынок самовыражения и Amazon
