Facebook впервые предоставил данные о шкала оскорбительных комментариев размещен на его сайте. Возможно, это было сделано под растущим давлением со стороны организаций для компаний в социальных сетях прозрачно о онлайн-злоупотреблении, или получить доверие после Скандал с данными Cambridge Analytica, В любом случае, цифры не делают для приятного чтения.
In шестимесячный период с октября 2017 до марта 20178, 21m сексуально откровенные картинки, 3.5m графически жестокие сообщения и 2.5m формы ненавистной речи были удалены со своего сайта. Эти цифры помогают выявить некоторые поразительные моменты.
Как и ожидалось, данные указывают на то, что проблема ухудшается. Например, с января по март было подсчитано, что для каждого сообщения 10,000 в режиме онлайн между 22 и 27 содержалось графическое насилие, от 16 до 19 за предыдущие три месяца, Это резко отразилось на том факте, что в Соединенном Королевстве уголовное преследование за злоупотребление в Интернете снижается, как показано на графике ниже.
Но то, что Facebook не сказал нам, столь же важно.
Социальная сеть была под растущим давлением для борьбы со злоупотреблениями на его сайте, в частности, террористическая пропаганда после таких событий, как атака Вестминстера 2017 и бомбардировки «Манчестер-Арены». Здесь компания была активной. В период с января по март 2018 Facebook удалил сообщения 1.9m, поощряющие террористическую пропаганду, увеличив количество комментариев 800,000 по сравнению с предыдущими тремя месяцами. В общей сложности 99.5% этих сообщений были расположены с помощью технологии продвижения.
На первый взгляд, похоже, что Facebook успешно разработал программное обеспечение, которое может удалить этот контент со своего сервера. Но Facebook не опубликовал цифры, показывающие, как превалирующий террорист пропаганда находится на своем сайте. Поэтому мы действительно не знаем, насколько успешным является программное обеспечение в этом отношении.
Удаление насильственных сообщений
Facebook также использовал технологию, помогающую устранить графическое насилие со своего сайта. Между двумя трехмесячными периодами произошло увеличение количества удаленных сообщений на 183%, которые были обозначены графически жестокими. В общей сложности 86% этих комментариев были отмечены компьютерной системой.
Но мы также знаем, что цифры в Facebook также показывают, что до 27 из каждого комментария 10,000, который прошел мимо технологии обнаружения, содержал графическое насилие. Это не похоже на много, но стоит учитывать огромное количество комментариев, размещенных на сайте, более чем за 2 миллиардов активных пользователей. Одна оценка предполагает, что комментарии 510,000 публикуются каждую минуту. Если это точно, это означало бы, что 1,982,880 насильственные комментарии публикуются каждые 24 часов.
Чтобы компенсировать неудачи в своем программном обеспечении для обнаружения, Facebook, как и другие социальные сети, в течение многих лет полагался на саморегулирование, при этом пользователи поощряли к комментарий к комментариям они считают, что их не должно быть на сайте. Например, с января по март 2018 Facebook удалил комментарии 2.5m, которые считались реакцией на ненависть, но только 950,000 (38%) этих сообщений была отмечена его системой. другое 62% были сообщены пользователями. Это показывает, что технология Facebook не позволяет адекватно бороться с ненавистью в своей сети, несмотря на растущую озабоченность тем, что сайты социальных сетей заправляют топливом ненавидеть преступление в реальном мире.
Сколько комментариев сообщается?
Это приводит нас к другой важной цифре, не включенной в данные, опубликованные Facebook: общее количество комментариев, сообщенных пользователями. Поскольку это основополагающий механизм борьбы с онлайн-злоупотреблением, объем отчетов, сделанных в компании, должен быть общедоступным. Это позволит нам понять всю степень оскорбительного комментария, сделанного в Интернете, при этом ясно, что общее количество сообщений, которые Facebook не удаляет с сайта.
Решение Facebook о выпуске данных, раскрывающих масштабы злоупотреблений на его сайте, является значительным шагом вперед. Напротив, у Твиттера была запрошена аналогичная информация но отказался чтобы освободить его, заявив, что это будет вводить в заблуждение. Очевидно, что не все комментарии, помеченные пользователями сайтов социальных сетей, будут нарушать его условия. Но неспособность Twitter обнародовать эту информацию предполагает, что компания не хочет раскрывать масштабы злоупотреблений на своем собственном сайте.
Тем не менее, даже Facebook все еще имеет долгий путь, чтобы достичь полной прозрачности. В идеале, все сайты социальных сетей будут выпускать ежегодные отчеты о том, как они решают проблемы в Интернете. Это позволит регулирующим органам и общественности держать фирмы более непосредственно, чтобы учесть ошибки, связанные с удалением онлайн-злоупотреблений со своих серверов.
Тем не менее, даже Facebook все еще имеет долгий путь, чтобы достичь полной прозрачности. В идеале, все сайты социальных сетей будут выпускать ежегодные отчеты о том, как они решают проблемы в Интернете. Это позволит регулирующим органам и общественности держать фирмы более непосредственно, чтобы учесть ошибки, связанные с удалением онлайн-злоупотреблений со своих серверов.Об авторе
Лаура Блисс, кандидат наук в области социальных медиа, Университета Edge Hill
Эта статья изначально была опубликована в Беседа, Прочтите оригинал статьи.
Похожие книги:
at Внутренний рынок самовыражения и Amazon
