Проблема не только в социальных сетях - как поисковые системы распространяют дезинформациюПоисковые системы часто предоставляют искажающую смесь информации и дезинформации. Crispin la valiente / Момент через Getty Images, CC BY-ND

Поисковые системы являются одними из основных ворот общества к информации и людям, но они также являются проводниками дезинформации. Похожий на проблемные алгоритмы социальных сетей, поисковые системы учатся служить вам тем, на что вы и другие нажимали раньше. Поскольку людей привлекает сенсационное, этот танец между алгоритмами и человеческой природой может способствовать распространению дезинформации.

Компании, занимающиеся поисковыми системами, как и большинство онлайн-сервисов, зарабатывают деньги не только на продаже рекламы, но и на отслеживании пользователей и продаже их данных. через торги в реальном времени в теме. Люди часто приводят к дезинформации их стремлению к сенсационным и развлекательным новостям, а также информацией, которая либо является спорным или подтверждает свою точку зрения. Одно исследование показало, что более популярные видеоролики на YouTube о диабете менее вероятно, что у вас будет достоверная с медицинской точки зрения информация чем, например, менее популярные видео на эту тему.

Поисковые системы, основанные на рекламе, как и платформы социальных сетей, предназначены для вознаграждения за переход по заманчивым ссылкам, потому что это помогает поисковым компаниям повысить свои бизнес-показатели. Как исследователь, который изучает поисковые и рекомендательные системы, Я и мои коллеги показали, что это опасное сочетание мотива корпоративной прибыли и индивидуальной восприимчивости затрудняет решение проблемы.

Как результаты поиска ошибаются

Когда вы нажимаете на результат поиска, алгоритм поиска узнает, что ссылка, по которой вы щелкнули, соответствует вашему поисковому запросу. Это называется обратная связь по релевантности. Эта обратная связь помогает поисковой системе в будущем придать этой ссылке больший вес для этого запроса. Если достаточное количество людей нажимают на эту ссылку достаточное количество раз, что дает сильную обратную связь по релевантности, этот веб-сайт начинает подниматься выше в результатах поиска по этому и связанным запросам.


графика подписки внутри себя


Люди более вероятно, что вы нажмете на ссылки, показанные выше в списке результатов поиска. Это создает цикл положительной обратной связи - чем выше отображается веб-сайт, тем больше кликов, что, в свою очередь, заставляет этот веб-сайт двигаться выше или удерживать его выше. Эти знания используются в методах поисковой оптимизации для увеличения видимости веб-сайтов.

У этой проблемы дезинформации есть два аспекта: как оценивается алгоритм поиска и как люди реагируют на заголовки, заголовки и фрагменты. Поисковые системы, как и большинство онлайн-сервисов, оцениваются по множеству показателей, одна из которых - вовлеченность пользователей. В интересах компаний, занимающихся поисковыми системами, предлагать вам то, что вы хотите прочитать, посмотреть или просто щелкнуть. Поэтому, когда поисковая система или любая система рекомендаций создает список элементов для представления, она вычисляет вероятность того, что вы нажмете на эти элементы.

Традиционно это должно было выявить наиболее актуальную информацию. Однако понятие релевантности стало расплывчатым, потому что люди использовали поиск, чтобы найти развлекательные результаты поиска, а также действительно релевантная информация.

Представьте, что вы ищете настройщика фортепиано. Если кто-то покажет вам видео, на котором кот играет на пианино, вы бы щелкнули по нему? Многие будут, даже если это не имеет ничего общего с настройкой фортепиано. Служба поиска чувствует себя подтвержденной положительными отзывами о релевантности и узнает, что можно показывать кошку, играющую на пианино, когда люди ищут настройщики пианино.

На самом деле, во многих случаях это даже лучше, чем показывать соответствующие результаты. Людям нравится смотреть смешные видеоролики с котиками, а поисковая система получает больше кликов и вовлеченности пользователей.

Это может показаться безобидным. Так что, если люди время от времени отвлекаются и нажимают на результаты, не соответствующие поисковому запросу? Проблема в том, что людей привлекают захватывающие изображения и сенсационные заголовки. Они часто нажимают на теории заговора и сенсационные новости, а не только кошки, играющие на пианино, и делают это больше, чем просто нажимать на настоящие новости или соответствующая информация.

Знаменитые, но ненастоящие пауки

В 2018 году поисковые запросы по запросу «новый смертоносный паук» подскочил на Google после публикации в Facebook, в которой утверждалось, что новый смертоносный паук убил несколько человек в нескольких штатах. Мы с коллегами проанализировали 100 лучших результатов поиска Google по запросу «новый смертоносный паук» в течение первой недели выполнения этого популярного запроса.

Проблема не только в социальных сетях - как поисковые системы распространяют дезинформациюПервые две страницы результатов поиска Google по запросу «новый смертоносный паук» в августе 2018 года (заштрихованная область) были связаны с исходным фальшивым новостным сообщением на эту тему, а не с разоблачением или иной фактической информацией. Чираг Шах, CC BY-ND

Получилась эта история был фальшивым, но люди, которые его искали, в значительной степени подвергались дезинформации, связанной с исходным фальшивым сообщением. По мере того как люди продолжали нажимать и публиковать эту дезинформацию, Google продолжал показывать эти страницы в верхней части результатов поиска.

Эта модель появления захватывающих и непроверенных историй и людей, нажимающих на них, продолжается, и люди, очевидно, либо не интересуются правдой, либо верят, что если доверенный сервис, такой как Google Search, показывает им эти истории, то эти истории должны быть правдой. Совсем недавно опровергнутый отчет Заявление о том, что Китай допустил утечку коронавируса из лаборатории, стало популярным в поисковых системах из-за этого порочного круга.

Найдите дезинформацию

Чтобы проверить, насколько хорошо люди различают точную информацию и дезинформацию, мы разработали простую игру под названием «Google или нет. » Эта онлайн-игра показывает два набора результатов по одному и тому же запросу. Задача проста - выбрать набор, который является надежным, заслуживающим доверия или наиболее актуальным.

Проблема не только в социальных сетях - как поисковые системы распространяют дезинформациюПри тестировании примерно в половине случаев люди не могут отличить результаты поиска Google, содержащие дезинформацию, от результатов с только достоверными результатами. Чираг Шах, CC BY-ND

Один из этих двух наборов содержит один или два результата, которые либо проверены и помечены как дезинформация, либо как опровергнутые истории. Мы сделали игру общедоступной и разместили рекламу в различных социальных сетях. В целом мы собрали 2,100 ответов из более чем 30 стран.

Когда мы проанализировали результаты, мы обнаружили, что примерно в половине случаев люди ошибочно выбирали набор как заслуживающий доверия с одним или двумя результатами дезинформации. Наши эксперименты с сотнями других пользователей на протяжении многих итераций привели к аналогичным результатам. Другими словами, примерно в половине случаев люди выбирают результаты, содержащие теории заговора и фейковые новости. По мере того, как все больше людей выбирают эти неточные и вводящие в заблуждение результаты, поисковые системы узнают, что люди этого хотят.

Помимо вопросов регулирования и саморегулирования крупных технологий, людям важно понимать, как работают эти системы и как они зарабатывают деньги. В противном случае рыночная экономика и естественная склонность людей к привлекательным ссылкам будут поддерживать порочный круг.

Об авторе

Чираг Шах, доцент кафедры информатики, Университет Вашингтона

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.