Алгоритмы YouTube могут радикализовать людей - но настоящая проблема в том, что мы понятия не имеем, как они работают

Алгоритмы YouTube могут радикализовать людей - но настоящая проблема в том, что мы понятия не имеем, как они работают Мистер Темптер / Шаттерсток

YouTube создает экстремистов? Недавнее исследование вызвал аргументы среди ученых, утверждая, что алгоритмы, которые приводят сайт в действие, не помогают радикализировать людей, рекомендуя все более экстремальные видео, как было предложено в последние годы.

В документе, представленном в журнал открытого доступа «Первый понедельник», но еще не прошедшем официальную рецензирование, анализируются видео рекомендации, полученные по различным типам каналов. Он утверждал, что алгоритм YouTube предпочитает основные медийные каналы, а не независимый контент, и пришел к выводу, что радикализация больше связана с людьми, которые создают вредоносный контент, чем с алгоритмом сайта.

Специалисты в этой области быстро отвечая на исследованиес некоторой критикой методы работы и другие утверждают, что алгоритм был одним из несколько важных факторов и что только наука о данных не даст нам ответ.

Проблема этого обсуждения в том, что мы не можем ответить на вопрос, какую роль играет алгоритм YouTube в радикализации людей, потому что мы не понимаем, как он работает. И это всего лишь симптом гораздо более широкой проблемы. Эти алгоритмы играют все большую роль в нашей повседневной жизни, но им не хватает какой-либо прозрачности.

Трудно утверждать, что YouTube не играет роли в радикализации. На это впервые указал технолог-социолог Зейнеп Туфекчи, который продемонстрировал, как рекомендуемые видео постепенно привлекают пользователей к более экстремальному содержанию, По словам Туфекки, видео о беге трусцой приводят к видео о бегах ультрамаратонов, видео о вакцинах приводят к теориям заговора, а видео о политике приводят к «отрицанию Холокоста и другому вызывающему беспокойство контенту».

Это также было написано о в деталях бывший сотрудник YouTube Гийом Часло, который работал над алгоритмом рекомендации сайта. После ухода из компании Часлот продолжал пытаться дать эти рекомендации более прозрачный, Он говорит, что рекомендации YouTube смещены в сторону теории заговора и фактически неточные видео, которые тем не менее заставляют людей проводить больше времени на сайте.

По факту, максимальное время просмотра В этом суть алгоритмов YouTube, и это побуждает создателей видео бороться за внимание любым возможным способом. Чистая компания отсутствие прозрачности о том, как именно это работает, практически невозможно бороться с радикализацией на сайте. В конце концов, без прозрачности трудно понять, что можно изменить, чтобы улучшить ситуацию.


Получите последние новости от InnerSelf


Алгоритмы YouTube могут радикализовать людей - но настоящая проблема в том, что мы понятия не имеем, как они работают Как работает алгоритм YouTube, остается загадкой. Кто такой Дэнни / Shutterstock

Но YouTube не является необычным в этом отношении. Отсутствие прозрачности в отношении того, как работают алгоритмы, обычно имеет место всякий раз, когда они используются в больших системах, будь то частными компаниями или государственными органами. Кроме того, чтобы решить, какое видео показать вам дальше, алгоритмы машинного обучения теперь используются для разместить детей в школахрешить тюремное заключениеопределить кредитные баллы и страховые тарифыа также судьба иммигранты, кандидаты на работу и абитуриенты, И обычно мы не понимаем, как эти системы принимают свои решения.

Исследователи нашли творческие способы показать влияние этих алгоритмов на общество, будь то путем изучения рост реакционного права или распространение теории заговора на YouTube, или показывая, как поисковые системы отражают расистские предубеждения людей, которые их создают.

Системы машинного обучения, как правило, большие, сложные и непрозрачные. Соответственно, они часто описываются как черные ящикигде информация поступает, и информация или действия выходят, но никто не может видеть, что происходит между ними. Это означает, что, поскольку мы не знаем точно, как работают алгоритмы, такие как система рекомендаций YouTube, пытаться понять, как работает сайт, все равно, что пытаться понять автомобиль, не открывая капот.

В свою очередь, это означает, что попытка написать законы, регулирующие то, что алгоритмы должны или не должны делать, становится слепым процессом или методом проб и ошибок. Это то, что происходит с YouTube и многими другими алгоритмами машинного обучения. Мы пытаемся повлиять на их результаты, не понимая, как они на самом деле работают. Нам нужно открыть эти запатентованные технологии или, по крайней мере, сделать их достаточно прозрачными, чтобы мы могли их регулировать.

Пояснения и тестирование

Один из способов сделать это было бы для алгоритмов, чтобы обеспечить контрафактные объяснения вместе с их решениями. Это означает разработку минимальных условий, необходимых алгоритму для принятия другого решения, без описания его полной логики. Например, алгоритм, принимающий решения о банковских кредитах, может привести к выводу, что «если вам было больше 18 лет, и у вас не было предыдущего долга, ваш банковский кредит был бы принят». Но это может быть трудно сделать с YouTube и другими сайтами, которые используют алгоритмы рекомендации, поскольку теоретически любое видео на платформе может быть рекомендовано в любой момент.

Еще одним мощным инструментом является тестирование и аудит алгоритмов, что особенно полезно при диагностике смещенных алгоритмов. В недавнем случае профессиональная компания по проверке резюме обнаружила, что ее алгоритм Приоритетность двух факторов как лучшие предикторы эффективности работы: было ли имя кандидата Джаредом, и играли ли они в лакросс в старшей школе. Это то, что происходит, когда машина остается без присмотра.

В этом случае алгоритм скрининга резюме обнаружил, что у белых мужчин больше шансов быть нанятым, и обнаружил, что у нанимаемых кандидатов присутствуют коррелирующие характеристики прокси (такие как имя Джаред или игра в лакросс). С YouTube аудит алгоритмов может помочь понять, какие видео являются приоритетными для рекомендаций - и, возможно, помочь решить спор о том, способствуют ли рекомендации YouTube радикализации или нет.

Введение неэффективных объяснений или использование аудита алгоритмов - сложный и дорогостоящий процесс. Но это важно, потому что альтернатива хуже. Если алгоритмы останутся неконтролируемыми и нерегулируемыми, мы можем видеть постепенное проникновение теоретиков заговора и экстремистов в наши СМИ, и наше внимание контролируется теми, кто может производить наиболее прибыльный контент.Беседа

Об авторе

Чико К. Камарго, доктор наук в области наук о данных, Оксфордский университет

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

Следуйте за InnerSelf

facebook-значокTwitter-значокНовости-значок

Получить последнее по электронной почте

{Emailcloak = выкл}

ВНУТРЕННИЕ ГОЛОСЫ

Что работает для меня: слушать мое тело
Что работает для меня: слушать мое тело
by Мари Т. Рассел, Внутренний

САМОЕ ЧИТАЕМОЕ

Что работает для меня: слушать мое тело
Что работает для меня: слушать мое тело
by Мари Т. Рассел, Внутренний

ОТ РЕДАКТОРОВ

Мониторинг здоровья в режиме реального времени
by Роберт Дженнингс, InnerSelf.com
Мне кажется, этот процесс очень важен в будущем. В сочетании с другими устройствами мы теперь можем дистанционно контролировать здоровье людей в режиме реального времени.
Игра, изменяющая дешевый тест на антитела, отправлена ​​на валидацию в Coronavirus Fight
by Алистер Смут и Эндрю Макаскилл
ЛОНДОН (Рейтер) - Британская компания, которая провела 10-минутный тест на антитела к коронавирусу, который будет стоить около 1 доллара США, начала отправлять прототипы в лаборатории для проверки, которая может быть…
Как противодействовать эпидемии страха
by Мари Т. Рассел, Внутренний
Поделиться сообщением Барри Висселла об эпидемии страха, которая заразила многих людей ...
Как выглядит и звучит настоящее лидерство
by Роберт Дженнингс, InnerSelf.com
Генерал-лейтенант Тодд Семоните, начальник Инженеров и командующий генерал Инженерного корпуса армии, беседует с Рейчел Мэддоу о том, как Инженерный корпус армии работает с другими федеральными агентствами и…
Что работает для меня: слушать мое тело
by Мари Т. Рассел, Внутренний
Тело человека - удивительное творение. Это работает без необходимости нашего участия в том, что делать. Сердце бьется, легкие качают, лимфатические узлы делают свое дело, процесс эвакуации работает. Тело…