Интернет-тролли, по определению, являются разрушительными, боевыми и часто неприятными с их наступательными или провокационными онлайн-сообщениями, предназначенными для беспокойства и расстроен.
Общее предположение состоит в том, что люди, которые троллируют, отличаются от остальных, предоставляя нам свободу их отклонения и их поведения. Но новое исследование предполагает иное - при правильных обстоятельствах каждый может стать троллем.
«Мы хотели понять, почему троллинг настолько распространен сегодня», - говорит Джастин Ченг, научный сотрудник по информатике в Стэнфордском университете и ведущий автор новой статьи. «Хотя общеизвестно, что тролли - особенно социопатические люди, которые иногда появляются в разговорах, действительно ли это люди, которые троллируют других?»
Плохие настроения
Является ли поведение троллинга врожденной характеристикой или ситуационными факторами влиять на людей, чтобы они действовали как тролли? Чтобы узнать об этом, исследователи использовали комбинацию экспериментов, анализа данных и машинного обучения - и обосновались на некоторых простых факторах, которые делают среднего человека более склонным к троллию.
После предыдущих исследований по антисоциальному поведению исследователи решили сосредоточиться на том, как настроение и контекст влияют на то, что люди пишут на дискуссионном форуме. Они создали двухчастный эксперимент с объектами 667, набранными на платформе краудсорсинга.
В первой части эксперимента участникам дали тест, который был либо очень легким, либо очень сложным. После проведения тестов все участники заполнили анкету, которая оценивала различные аспекты их настроения, включая гнев, усталость, депрессию и напряжение. Как и ожидалось, люди, которые завершили сложный тест, находились в худшем настроении, чем те, у кого был легкий тест.
Затем всем участникам было поручено прочитать статью и заняться ее комментарием. Они должны были оставить хотя бы один комментарий, но могли оставлять несколько комментариев, голосов и голосов и отвечать на другие комментарии. Все участники увидели ту же статью на той же платформе, созданной исключительно для эксперимента, но некоторым участникам был предоставлен форум с тремя сообщениями троллей в верхней части раздела комментариев. Другие видели три нейтральных посты.
Два независимых эксперта оценивали вопрос о том, остаются ли должности, оставленные субъектами, квалифицируемыми как троллинг, определяемые в целом в этом исследовании комбинацией рекомендаций по размещению, взятых из нескольких дискуссионных форумов. Например, личные атаки и проклятие указывали на сообщения троллей.
О 35 процентах людей, которые прошли легкий тест и увидели нейтральные сообщения, затем отправили собственные комментарии тролля. Этот процент подскочил до 50 процентов, если субъект либо прошел жесткий тест, либо увидел комментарии к троллингам. Люди, подвергшиеся как сложному испытанию, так и сообщениям троллей, проходили примерно за 68 процентов времени.
Чтобы связать эти экспериментальные идеи с реальным миром, исследователи также проанализировали анонимные данные из секции комментариев CNN со всего 2012. Данные состояли из пользователей 1,158,947, обсуждений 200,576 и сообщений 26,552,104 и включали запрещенных пользователей и сообщения, которые были удалены модераторами. В этой части исследования команда определила должности троллей, которые были отмечены членами сообщества за злоупотребления.
«Спираль негатива»
Невозможно было непосредственно оценить настроение комментаторов, но исследователи смотрели на отметку времени сообщений, потому что предыдущие исследования показали, что время дня и дня недели соответствует настроению. Инциденты с пониженным рейтингом и отмеченные посты столкнулись в тесном контакте с сложившимися образцами негативного настроя. Такие инциденты, как правило, увеличиваются поздно ночью и в начале недели, а также когда люди, скорее всего, находятся в плохом настроении.
Исследователи исследовали влияние настроения далее и обнаружили, что люди с большей вероятностью создадут отмеченный пост, если они были недавно отмечены или если они приняли участие в отдельном обсуждении, которое включало только отмеченные сообщения, написанные другими. Эти выводы были достоверными, независимо от того, какая статья была связана с обсуждением.
«Это спираль негатива, - говорит Юрие Лесковец, доцент компьютерных наук и старший автор статьи. «Только один человек, просыпающийся взволнованно, может создать искру и, из-за контекста обсуждения и голосования, эти искры могут выкрутиться в каскады плохого поведения. Плохие разговоры ведут к плохим разговорам. Люди, которые проголосовали, вернулись больше, комментируют больше и комментируют еще хуже ».
Предсказание помеченных сообщений
В качестве последнего шага в своих исследованиях команда создала алгоритм машинного обучения, задачей которого было предсказать, будет ли отмечена следующая публикация автора.
Информация, поданная на алгоритм, включала отметку времени последнего сообщения автора, независимо от того, была ли отмечена последняя публикация, была ли отмечена предыдущая публикация в обсуждении, общая история написания помеченных сообщений автора и анонимный идентификатор пользователя автора ,
Выводы показали, что статус флага предыдущей должности в обсуждении был самым сильным предиктором того, будет ли отмечена следующая публикация. Функции, связанные с настроением, такие как синхронизация и предыдущее замедление комментариев, были гораздо менее прогностическими. История пользователя и идентификатор пользователя, хотя и несколько прогностические, были все еще значительно менее информативными, чем контекст обсуждения. Это подразумевает, что, хотя некоторые люди могут быть более склонны к троллированию, контекст, в котором мы публикуем, скорее всего, приведет к троллингу.
Запреты на тень и периоды охлаждения?
Полученные результаты были сильными и последовательными в период реального времени, крупномасштабного анализа данных, эксперимента и прогностической задачи. Исследователи предполагают, что контекст беседы и настроение могут привести к троллингу. Они считают, что это может способствовать созданию лучших онлайновых дискуссионных площадок.
«Понимание того, что на самом деле определяет, что кто-то ведет себя антисоциально, важно, если мы хотим улучшить качество онлайн-дискуссий», - говорит Кристиан Даннеску-Никулеску-Мизил, доцент кафедры информатики в Корнельском университете и соавтор статьи. «Понимание основополагающих причинно-следственных механизмов могло бы способствовать разработке систем, которые способствовали бы более гражданскому онлайн-обсуждению и могли бы помочь модераторам более эффективно смягчать троллинг».
Вмешательства по предотвращению троллинга могут включать в себя дискуссионные форумы, которые рекомендуют период охлаждения для комментаторов, у которых только что была отмечена почта, системы, которые автоматически предупреждают модераторов о должности, которая, скорее всего, является сообщением тролля или «запретом теневых», - скрывая сообщения троллей от пользователей без троллинга без уведомления тролля.
Исследователи полагают, что подобные исследования - это только начало работы, которая необходима в течение некоторого времени, поскольку интернет далеко не всемирная деревня, где были сердечные дебаты и дискуссии, которые люди когда-то думали, что это станет.
«В конце концов, что это исследование действительно предлагает, так это то, что именно мы вызываем эти нарушения в обсуждении», - говорит соавтор Майкл Бернштейн, доцент компьютерных наук в Стэнфорде. «Многие новостные сайты удалили свои системы комментариев, потому что считают, что это противоречит актуальным дискуссиям и дискуссиям. Понимание наших собственных лучших и худших личностей здесь имеет ключевое значение для возвращения этих людей ».
Ассоциация бумаги был опубликован в рамках предстоящей конференции 2017 по компьютерным работам и социальным вычислениям.
Источник: Стэнфордский университет
Книги по этой теме
at Внутренний рынок самовыражения и Amazon
