Типичный аккаунт социального бота. СС Б

Платформы социальных сетей стали больше, чем просто инструментами общения. Они превратились в шумные арены, где сталкиваются правда и ложь. Среди этих платформ X выделяется как видное поле битвы. Это место, где процветают кампании дезинформации, проводимые армиями ботов с искусственным интеллектом, запрограммированных влиять на общественное мнение и манипулировать повествованиями.

Боты на базе искусственного интеллекта — это автоматизированные учетные записи, предназначенные для имитации поведения человека. Боты в социальных сетях, чат-платформы и диалоговый искусственный интеллект являются неотъемлемой частью современной жизни. Они необходимы, например, для эффективной работы приложений искусственного интеллекта.

Но некоторые боты созданы со злым умыслом. Поразительно, но боты составляют значительную часть пользовательской базы X. В 2017 году это было оценено что существует около 23 миллионов социальных ботов, что составляет 8.5% от общего числа пользователей. Более двух третей твитов исходят из этих автоматических учетных записей, расширяя сферу распространения дезинформации и запутывая воду общественного дискурса.

Как работают боты

Социальное влияние теперь стало товаром, который можно приобрести, покупая ботов. Компании продают фейковых подписчиков, чтобы искусственно повысить популярность аккаунтов. Эти подписчики доступны по удивительно низким ценам, среди покупателей много знаменитостей.

Например, в ходе нашего исследования мы с коллегами обнаружили бота, который разместил 100 твитов с предложением продажи подписчиков.

Использование методологий искусственного интеллекта и теоретического подхода под названием акторно-сетевая теорияМы с коллегами проанализировали, как вредоносные социальные боты манипулируют социальными сетями, с пугающей эффективностью влияя на то, что люди думают и как они действуют. Мы можем определить, были ли фейковые новости созданы человеком или ботом, с точностью 79.7%. Крайне важно понять, как люди и ИИ распространяют дезинформацию, чтобы понять, как люди используют ИИ для распространения дезинформации.

В качестве примера мы исследовали активность аккаунта под названием «Настоящие Трамперы» в Твиттере.

Аккаунт был создан в августе 2017 года, у него нет подписчиков и изображения профиля, но на момент исследования было опубликовано 4,423 твита. Среди них была серия полностью сфабрикованных историй. Стоит отметить, что этот бот произошел из восточноевропейской страны.

Поток фейковых новостей с бот-аккаунта. Buzzfeed, CC BY

Подобные исследования побудили X ограничить деятельность социальных ботов. В ответ на угрозу манипулирования социальными сетями X ввел временные ограничения на чтение, чтобы ограничить сбор и манипулирование данными. Проверенные учетные записи имеют ограничение на чтение 6,000 сообщений в день, а непроверенные учетные записи могут читать 600 сообщений в день. Это новое обновление, поэтому мы пока не знаем, подействовало ли оно.

Можем ли мы защитить себя?

Однако в конечном итоге на пользователей ложится обязанность проявлять осторожность и отличать правду от лжи, особенно в период выборов. Критически оценивая информацию и проверяя источники, пользователи могут сыграть свою роль в защите целостности демократических процессов от нападок ботов и кампаний по дезинформации на X. Фактически каждый пользователь является передовым защитником правды и демократии. Бдительность, критическое мышление и здоровая доза скептицизма — важные доспехи.

В социальных сетях пользователям важно понимать стратегии, используемые вредоносными учетными записями.

Злоумышленники часто используют сети ботов для распространения ложной информации, манипулирования тенденциями и быстрого распространения дезинформации. Пользователям следует проявлять осторожность при обнаружении учетных записей, демонстрирующих подозрительное поведение, например чрезмерное количество публикаций или повторяющиеся сообщения.

Дезинформация также часто распространяется через специальные сайты фейковых новостей. Они созданы для имитации заслуживающих доверия источников новостей. Пользователям рекомендуется проверять подлинность источников новостей, сверяя информацию с авторитетными источниками и консультируясь с организациями по проверке фактов.

Самосознание — еще одна форма защиты, особенно от методов социальной инженерии. Психологические манипуляции часто используются для того, чтобы заставить пользователей поверить в ложь или совершить определенные действия. Пользователям следует сохранять бдительность и критически оценивать контент, с которым они сталкиваются, особенно в периоды повышенной чувствительности, например, во время выборов.

Оставаясь в курсе, участвуя в гражданском дискурсе и выступая за прозрачность и подотчетность, мы можем коллективно сформировать цифровую экосистему, которая будет способствовать доверию, прозрачности и осознанному принятию решений.

Ник Хайли, ИИ-стратег и профессор цифровой стратегии, Университет Лафборо

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

Похожие книги:

О тирании: двадцать уроков двадцатого века

Тимоти Снайдер

Эта книга предлагает уроки истории для сохранения и защиты демократии, включая важность институтов, роль отдельных граждан и опасности авторитаризма.

Нажмите для получения дополнительной информации или для заказа

Наше время пришло: сила, цель и борьба за справедливую Америку

Стейси Абрамс

Автор, политик и активист, делится своим видением более инклюзивной и справедливой демократии и предлагает практические стратегии политического участия и мобилизации избирателей.

Нажмите для получения дополнительной информации или для заказа

Как умирают демократии

Стивен Левицкий и Дэниел Зиблат

В этой книге рассматриваются тревожные признаки и причины краха демократии, на основе тематических исследований со всего мира предлагается понимание того, как защитить демократию.

Нажмите для получения дополнительной информации или для заказа

Народ, нет: краткая история антипопулизма

Томас Франк

Автор предлагает историю популистских движений в Соединенных Штатах и ​​критикует «антипопулистскую» идеологию, которая, как он утверждает, душила демократические реформы и прогресс.

Нажмите для получения дополнительной информации или для заказа

Демократия в одной книге или меньше: как это работает, почему это не работает и почему исправить это проще, чем вы думаете

Дэвид Литт

Эта книга предлагает обзор демократии, включая ее сильные и слабые стороны, и предлагает реформы, чтобы сделать систему более гибкой и подотчетной.

Нажмите для получения дополнительной информации или для заказа