Американский технологический гигант Microsoft объединилась с китайским военным университетом развивать системы искусственного интеллекта это может потенциально усилить возможности государственного надзора и цензуры. Два Сенаторы США публично осудили партнерство, но что Национальный оборонный технологический университет Китая хочет от Microsoft не единственная проблема.

As мои исследования показывают, появление цифровых репрессий глубоко влияет на отношения между гражданином и государством, Новые технологии вооружают правительства беспрецедентными возможностями для мониторинга, отслеживания и наблюдения за отдельными людьми. Даже правительства в демократических странах с сильными традициями верховенство права оказываются склонными к злоупотреблениям эти новые способности.

В штатах с необъяснимые институты и частые нарушения прав человекаСистемы ИИ, скорее всего, нанесут больший урон. Китай является ярким примером. Его руководство с энтузиазмом восприняло технологии искусственного интеллекта и создало самый сложный состояние наблюдения in Провинция синьцзян, отслеживание ежедневных перемещений граждан и использования смартфонов.

Его использование этих технологий представляет пугающую модель для товарищей автократов и представляет прямую угрозу для открытых демократических обществ. Хотя нет никаких доказательств того, что другие правительства повторили этот уровень надзора за ИИ, китайские компании активно экспортируют одни и те же базовые технологии по всему миру.

Растущая зависимость от инструментов ИИ в США.

Системы искусственного интеллекта повсюду в современном мире, помогая управлять смартфонами, поисковыми системами в Интернете, цифровыми голосовыми помощниками и очередями фильмов Netflix. Многие люди не понимают, как быстро растет ИИ благодаря постоянно увеличивающимся объемам анализируемых данных, совершенствованию алгоритмов и передовым компьютерным чипам.

Каждый раз, когда появляется больше информации, и анализ становится легче, правительства интересуются - и не только авторитарными. Например, в США 1970 видели откровения, которые создали правительственные учреждения, такие как ФБР, ЦРУ и АНБ. обширные внутренние сети наблюдения для мониторинга и преследования гражданских правозащитников, политических активистов и индейских групп. Эти проблемы не исчезли: цифровые технологии сегодня расширили возможности еще большего числа учреждений для проведения еще более навязчивого наблюдения.

Насколько справедливо алгоритмы предсказывают, где полиция должна быть наиболее сфокусирована? Арно де Врис

Например, полиция США охотно использует технологии искусственного интеллекта. Они начали использовать программное обеспечение, которое предназначен для предсказания, где будут происходить преступления решить, куда отправить офицеров на патрулирование. Они также используют распознавания лиц и Анализ ДНК в уголовных расследованиях. Но анализ этих систем показывает данные, на которых обучаются эти системы часто предвзято, что приводит к несправедливые результаты, Такие, как ошибочно определяя, что афроамериканцы чаще совершают преступления чем другие группы.

ИИ наблюдения по всему миру

В авторитарных странах системы ИИ могут непосредственно содействовать внутреннему контролю и надзору, помогая внутренние силы безопасности обрабатывают огромное количество информации - включая сообщения в социальных сетях, текстовые сообщения, электронные письма и телефонные звонки - быстрее и эффективнее. Полиция может выявлять социальные тенденции и специфичные люди кто может угрожать режиму на основе информации, раскрытой этими системами.

Например, китайское правительство использовало ИИ в широкомасштабных репрессиях в регионах, где проживают этнические меньшинства в Китае. Системы наблюдения в Синьцзяне и Тибете были описаны как «Оруэлла. »Эти усилия включали обязательные образцы ДНК, Мониторинг сети Wi-Fi и широко распространенные камеры распознавания лиц, все они подключены к интегрированным платформам анализа данных. С помощью этих систем китайские власти, согласно Госдепартаменту США, «произвольно задержаны» между 1 и 2 миллионов человек.

My исследование рассматривает страны 90 по всему миру с правительствами разных типов, от закрытых авторитарных до несовершенных демократий, включая Таиланд, Турцию, Бангладеш и Кению. Я обнаружил, что китайские компании экспорт технологии искусственного интеллекта по крайней мере 54 из этих стран. Часто эта технология упакована как часть флагмана Китая Пояс и инициатива дорожного, которая финансирует обширную сеть автомобильных, железных дорог, энергопроводов и телекоммуникационных сетей обслуживающих 60% населения мира и страны, которые генерируют 40% мирового ВВП.

Например, китайские компании, такие как Huawei и ZTE строят «умные города» в Пакистан, Филиппины и Кения, показывая обширную встроенную технологию наблюдения. Например, Huawei снабдил Бонифачо Глобал Сити на Филиппинах с подключенными к интернету камерами высокой четкости, которые обеспечивают «Интеллектуальное охранное наблюдение 24 / 7 с аналитикой данных для выявления преступлений и управления трафиком ».

Bonifacio Global City на Филиппинах имеет много встроенного оборудования для наблюдения. земля альвео / Wikimedia Commons

Hikvision, Yitu и SenseTime поставляем современные камеры распознавания лиц для использования в таких местах, как Сингапур - который объявил о создании программы наблюдения с Камеры 110,000, установленные на фонарных столбах вокруг города-государства. Зимбабве создает национальная база данных изображений это может быть использовано для распознавания лиц.

Однако продажа современного оборудования с целью получения прибыли отличается от обмена технологиями с явной геополитической целью. Эти новые возможности могут посеять семена для глобального наблюдения: поскольку правительства становятся все более зависимыми от китайских технологий для управления своим населением и поддержания власти, они столкнутся с большим давлением, чтобы соответствовать повестке дня Китая. Но сейчас кажется, что основной мотив Китая - доминировать на рынке новых технологий и зарабатывать много денег в этом процессе.

ИИ и дезинформация

Помимо обеспечения широких и детальных возможностей наблюдения, ИИ может помочь репрессивным правительствам манипулировать имеющейся информацией и распространять дезинформацию. Эти кампании могут быть автоматизированы или автоматизированы, и развертывать гипер-персонализированные сообщения направлены на - или против - специфичные люди или группы.

ИИ также лежит в основе технологии, обычно называемой «deepfake, В котором алгоритмы создают реалистичные видео и аудио подделки, Грязные воды между правдой и выдумкой могут стать полезными при жестких выборах, когда один кандидат может создать фальшивые видеоролики, показывающие действия оппонента и говорящие вещи, которые на самом деле никогда не происходили.

Раннее фальшивое видео показывает некоторые опасности передовых технологий.

{vembed Y = cQ54GDm1eL0}

На мой взгляд, политикам в демократических странах следует тщательно обдумать риски систем ИИ для их собственных обществ и для людей, живущих при авторитарных режимах во всем мире. Критический вопрос заключается в том, сколько стран примут китайскую модель цифрового наблюдения. Но не только авторитарные страны чувствуют притяжение. И не только китайские компании распространяют технологию: многие американские компании, включая Microsoft, но IBM, Cisco и Thermo Fisher также предоставили сложные возможности противным правительствам. Злоупотребление ИИ не ограничивается автократическими государствами.

Об авторе

Стивен Фельдстайн, председатель церкви Фрэнка и Бетин по связям с общественностью и доцент Школы государственной службы, Университет штата Айдахо

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

Книги по этой теме

at Внутренний рынок самовыражения и Amazon