Алгоритмы YouTube могут радикализовать людей - но настоящая проблема в том, что мы понятия не имеем, как они работают

Алгоритмы YouTube могут радикализовать людей - но настоящая проблема в том, что мы понятия не имеем, как они работают Мистер Темптер / Шаттерсток

YouTube создает экстремистов? Недавнее исследование вызвал аргументы среди ученых, утверждая, что алгоритмы, которые приводят сайт в действие, не помогают радикализировать людей, рекомендуя все более экстремальные видео, как было предложено в последние годы.

В документе, представленном в журнал открытого доступа «Первый понедельник», но еще не прошедшем официальную рецензирование, анализируются видео рекомендации, полученные по различным типам каналов. Он утверждал, что алгоритм YouTube предпочитает основные медийные каналы, а не независимый контент, и пришел к выводу, что радикализация больше связана с людьми, которые создают вредоносный контент, чем с алгоритмом сайта.

Специалисты в этой области быстро отвечая на исследованиес некоторой критикой методы работы и другие утверждают, что алгоритм был одним из несколько важных факторов и что только наука о данных не даст нам ответ.

Проблема этого обсуждения в том, что мы не можем ответить на вопрос, какую роль играет алгоритм YouTube в радикализации людей, потому что мы не понимаем, как он работает. И это всего лишь симптом гораздо более широкой проблемы. Эти алгоритмы играют все большую роль в нашей повседневной жизни, но им не хватает какой-либо прозрачности.

Трудно утверждать, что YouTube не играет роли в радикализации. На это впервые указал технолог-социолог Зейнеп Туфекчи, который продемонстрировал, как рекомендуемые видео постепенно привлекают пользователей к более экстремальному содержанию, По словам Туфекки, видео о беге трусцой приводят к видео о бегах ультрамаратонов, видео о вакцинах приводят к теориям заговора, а видео о политике приводят к «отрицанию Холокоста и другому вызывающему беспокойство контенту».

Это также было написано о в деталях бывший сотрудник YouTube Гийом Часло, который работал над алгоритмом рекомендации сайта. После ухода из компании Часлот продолжал пытаться дать эти рекомендации более прозрачный, Он говорит, что рекомендации YouTube смещены в сторону теории заговора и фактически неточные видео, которые тем не менее заставляют людей проводить больше времени на сайте.

По факту, максимальное время просмотра В этом суть алгоритмов YouTube, и это побуждает создателей видео бороться за внимание любым возможным способом. Чистая компания отсутствие прозрачности о том, как именно это работает, практически невозможно бороться с радикализацией на сайте. В конце концов, без прозрачности трудно понять, что можно изменить, чтобы улучшить ситуацию.


Получите последние новости от InnerSelf


Алгоритмы YouTube могут радикализовать людей - но настоящая проблема в том, что мы понятия не имеем, как они работают Как работает алгоритм YouTube, остается загадкой. Кто такой Дэнни / Shutterstock

Но YouTube не является необычным в этом отношении. Отсутствие прозрачности в отношении того, как работают алгоритмы, обычно имеет место всякий раз, когда они используются в больших системах, будь то частными компаниями или государственными органами. Кроме того, чтобы решить, какое видео показать вам дальше, алгоритмы машинного обучения теперь используются для разместить детей в школахрешить тюремное заключениеопределить кредитные баллы и страховые тарифыа также судьба иммигранты, кандидаты на работу и абитуриенты, И обычно мы не понимаем, как эти системы принимают свои решения.

Исследователи нашли творческие способы показать влияние этих алгоритмов на общество, будь то путем изучения рост реакционного права или распространение теории заговора на YouTube, или показывая, как поисковые системы отражают расистские предубеждения людей, которые их создают.

Системы машинного обучения, как правило, большие, сложные и непрозрачные. Соответственно, они часто описываются как черные ящикигде информация поступает, и информация или действия выходят, но никто не может видеть, что происходит между ними. Это означает, что, поскольку мы не знаем точно, как работают алгоритмы, такие как система рекомендаций YouTube, пытаться понять, как работает сайт, все равно, что пытаться понять автомобиль, не открывая капот.

В свою очередь, это означает, что попытка написать законы, регулирующие то, что алгоритмы должны или не должны делать, становится слепым процессом или методом проб и ошибок. Это то, что происходит с YouTube и многими другими алгоритмами машинного обучения. Мы пытаемся повлиять на их результаты, не понимая, как они на самом деле работают. Нам нужно открыть эти запатентованные технологии или, по крайней мере, сделать их достаточно прозрачными, чтобы мы могли их регулировать.

Пояснения и тестирование

Один из способов сделать это было бы для алгоритмов, чтобы обеспечить контрафактные объяснения вместе с их решениями. Это означает разработку минимальных условий, необходимых алгоритму для принятия другого решения, без описания его полной логики. Например, алгоритм, принимающий решения о банковских кредитах, может привести к выводу, что «если вам было больше 18 лет, и у вас не было предыдущего долга, ваш банковский кредит был бы принят». Но это может быть трудно сделать с YouTube и другими сайтами, которые используют алгоритмы рекомендации, поскольку теоретически любое видео на платформе может быть рекомендовано в любой момент.

Еще одним мощным инструментом является тестирование и аудит алгоритмов, что особенно полезно при диагностике смещенных алгоритмов. В недавнем случае профессиональная компания по проверке резюме обнаружила, что ее алгоритм Приоритетность двух факторов как лучшие предикторы эффективности работы: было ли имя кандидата Джаредом, и играли ли они в лакросс в старшей школе. Это то, что происходит, когда машина остается без присмотра.

В этом случае алгоритм скрининга резюме обнаружил, что у белых мужчин больше шансов быть нанятым, и обнаружил, что у нанимаемых кандидатов присутствуют коррелирующие характеристики прокси (такие как имя Джаред или игра в лакросс). С YouTube аудит алгоритмов может помочь понять, какие видео являются приоритетными для рекомендаций - и, возможно, помочь решить спор о том, способствуют ли рекомендации YouTube радикализации или нет.

Введение неэффективных объяснений или использование аудита алгоритмов - сложный и дорогостоящий процесс. Но это важно, потому что альтернатива хуже. Если алгоритмы останутся неконтролируемыми и нерегулируемыми, мы можем видеть постепенное проникновение теоретиков заговора и экстремистов в наши СМИ, и наше внимание контролируется теми, кто может производить наиболее прибыльный контент.Беседа

Об авторе

Чико К. Камарго, доктор наук в области наук о данных, Оксфордский университет

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

Следуйте за InnerSelf

facebook-значокTwitter-значокНовости-значок

Получить последнее по электронной почте

{Emailcloak = выкл}

ВНУТРЕННИЕ ГОЛОСЫ

САМОЕ ЧИТАЕМОЕ

Как мозг сложнее, чем предполагает анатомия
Как мозг сложнее, чем предполагает анатомия
by Сальваторе Доменик Моргера

ОТ РЕДАКТОРОВ

День расплаты настал для Республиканской партии
by Роберт Дженнингс, InnerSelf.com
Республиканская партия больше не является проамериканской политической партией. Это нелегитимная псевдополитическая партия, полная радикалов и реакционеров, чья заявленная цель - сорвать, дестабилизировать и ...
Почему Дональд Трамп может быть самым большим неудачником в истории
by Роберт Дженнингс, InnerSelf.com
Обновлено 2 июля 20020 г. - Вся эта пандемия коронавируса стоит целое состояние, может быть, 2, 3 или 4 состояния, неизвестного размера. Ах да, и сотни тысяч, а может и миллионов людей умрут ...
Голубые глаза против коричневых глаз: как учат расизму
by Мари Т. Рассел, Внутренний
В этом эпизоде ​​Oprah Show 1992 года отмеченная наградами активистка и пропагандист антирасизма Джейн Эллиотт преподала аудитории сложный урок о расизме, демонстрируя, насколько легко выучить предрассудки.
Изменения придут ...
by Мари Т. Рассел, Внутренний
(30 мая 2020 г.) Когда я смотрю новости о событиях в Филадельфии и других городах страны, мое сердце болит от того, что происходит. Я знаю, что это часть больших перемен, которые происходят ...
Песня может поднять сердце и душу
by Мари Т. Рассел, Внутренний
У меня есть несколько способов, с помощью которых я могу избавиться от темноты, когда обнаружу, что она закралась. Один из них - садоводство или времяпровождение на природе. Другое молчание. Еще один способ чтения. И тот, который ...