Как знать, если онлайн-дискуссия идет навстречу

Исследователи создали модель, чтобы предсказать, какие гражданские онлайн-разговоры могут пойти на поворот и подойти.

Проанализировав сотни обменов между редакторами Wikipedia, исследователи разработали компьютерную программу, которая сканирует предупреждающие знаки на языке участников в начале разговора - например, повторный, прямой опрос или использование слова «вы» - для прогнозирования того, что изначально гражданские разговоры пошли бы наперекосяк. (Примечание редактора: для получения информации об онлайн-викторине см. Конец этой статьи.) («Угадайте, какая беседа пойдет наперекосяк» онлайн-викторина: http://awry.infosci.cornell.edu/)

Ранние обмены, которые включали приветствия, выражения благодарности, хеджирования, такие как «кажется», и слова «я» и «мы», скорее всего, оставались гражданскими, говорится в исследовании.

«Есть миллионы таких обсуждений, которые происходят каждый день, и вы не можете контролировать всех из них вживую. Система, основанная на этом нахождении, может помочь человеческим модераторам лучше направлять их внимание », - говорит Кристиан Данеску-Никулеску-Мизил, доцент кафедры информатики в Корнельском университете и соавтор бумага.

«У нас, как у людей, есть интуиция о том, собирается ли разговор идти наперекосяк, но это часто просто подозрение. Мы не можем сделать это за 100 процентов времени. Мы задаемся вопросом, можем ли мы создавать системы для тиражирования или даже выйти за рамки этой интуиции », - говорит Данеску-Никулеску-Мизил.

Компьютерная модель, которая также считала Перспектива Google, средством машинного обучения для оценки «токсичности», была правильной в течение 65 процентов времени. Люди правильно угадали 72 процентов времени.


графика подписки внутри себя


Люди могут проверить свою способность угадать, какие разговоры будут сорваться в онлайн-викторине.

В исследовании анализировались разговоры 1,270, которые начали гражданский, но выродились в персональные атаки, изъятые из 50 миллионов разговоров на страницах 16 million Wikipedia «talk», где редакторы обсуждают статьи или другие проблемы. Они рассматривали обмены в парах, сравнивая каждую беседу, которая закончилась плохо с той, которая преуспела в той же теме, поэтому результаты не были искажены чувствительным предметом, таким как политика.

Исследователи надеются, что эта модель может быть использована для спасения разговоров с риском и улучшения интерактивного диалога, а не для запрещения конкретных пользователей или цензуры определенных тем. Некоторые онлайн-плакаты, такие как неродные англоговорящие, могут не понимать, что их можно воспринимать как агрессивные, и подталкивания от такой системы могут помочь им самонастраиваться.

«Если у меня есть инструменты, которые находят личные атаки, уже слишком поздно, потому что атака уже произошла, и люди уже ее видели», - говорит соавтор Джонатан П. Чанг, студент PhD в Корнелле. «Но если вы поймете, что этот разговор идет в плохом направлении и принять меры тогда, это может сделать место более приятным».

Документ, написанный совместно с дополнительными сотрудниками Jigsaw и Фонда Викимедиа, станет частью ежегодного собрания Ассоциации по вычислительной лингвистике (июль 2018) в Мельбурне, Австралия.

*****

Угадайте, какой разговор пойдет наперекосяк!

Инструкции онлайн-викторины:

В этой задаче вам будут показаны пары цепочек 15. Для каждого разговора вы можете увидеть первые два комментария в разговоре. Ваша работа заключается в том, чтобы догадаться, основываясь на этих стартерах разговоров, в которых в конечном итоге приведет к личной атаке от одного из двух первых пользователей. 

После ответа на каждый вопрос вы получите мгновенную обратную связь о том, был ли ваш ответ правильным (обозначен зеленым) или неправильным (обозначен красным).

Подробнее:

Сделав свое предположение, вы должны использовать следующее определение персональной атаки в качестве ссылки:

персональная атака представляет собой комментарий, который является грубым, оскорбительным или неуважительным по отношению к человеку / группе или к действиям и / или работе этого человека / группы.

Имейте в виду, что вы не ищете личных атак в комментариях, которые показанный, Скорее, вы должны использовать свою интуицию социальной динамики, чтобы решить, какой обмен, скорее всего, приведет к тому, что один из участников отправит персональную атаку (которую вы не показываете). 

Время от времени может показаться, что ни одна цитата не может привести к атаке или что обе кажутся одинаково вероятными. Однако имейте в виду, что разговоры об источниках уже были аннотированы людьми, и один действительно приводит к личной атаке. Сделайте все возможное, чтобы «восстановить» те существующие ярлыки! 

Это непростая задача, и на каждый вопрос может потребоваться несколько минут. Поскольку это трудная задача, первые три вопроса - это «разогревающие» вопросы, которые не повлияют на ваш счет; они помогут вам «откалибровать» ваше понимание того, какие факторы могут сигнализировать о будущих атаках. Но помни, ваша задача - восстановить столько ярлыков, сколько вы можете

Из-за характера задачи некоторые из этих комментариев могут содержать оскорбительный контент. Мы сожалеем об этом.

Нажмите здесь для онлайн-теста.

Источник: Корнельского университета

Книги по этой теме

at Внутренний рынок самовыражения и Amazon