Shutterstock.

Индивидуалистические западные общества построены на идее, что никто не знает наши мысли, желания или радости лучше, чем мы. И поэтому мы ставим себя, а не правительство, ответственным за свою жизнь. Мы склонны соглашаться с философом Требование Иммануила Канта что никто не имеет права навязывать нам свое представление о хорошей жизни.

Искусственный интеллект (ИИ) изменит это. Он будет знать нас лучше, чем мы сами. Правительство, вооруженное искусственным интеллектом, может заявить, что знает, чего на самом деле хотят его люди и что действительно сделает их счастливыми. В лучшем случае он будет использовать это для оправдания патернализма, в худшем - тоталитаризма.

Каждый ад начинается с обещания рая. Тоталитаризм под руководством ИИ не будет исключением. Свобода станет подчинением государству. Только иррациональные, злобные или подрывные люди могут пожелать избрать свой собственный путь.

Чтобы предотвратить такую ​​антиутопию, мы не должны позволять другим знать о себе больше, чем мы. Мы не можем допустить пробела в самопознании.

Всевидящий ИИ

В 2019 году миллиардер-инвестор Питер Тиль заявил, что ИИ «буквально коммунист». Он указал, что ИИ позволяет централизованной власти контролировать граждан и знать о них больше, чем они знают о себе. Китай, отметил Тиль, охотно принял ИИ.

Мы уже знаем потенциал ИИ для поддерживать тоталитаризм предоставляя оруэлловскую систему наблюдения и контроля. Но ИИ дает тоталитаристам философское оружие. Пока мы знали себя лучше, чем правительство, либерализм мог сдерживать честолюбивых тоталитаристов.

Но ИИ изменил правила игры. Крупные технологические компании собирают огромное количество данных о нашем поведении. Алгоритмы машинного обучения используют эти данные для расчета не только того, что мы будем делать, но и того, кто мы есть.

Cегодня в ИИ может предсказывать какие фильмы нам понравятся, какие новости мы захотим прочитать и кого мы захотим подружить на Facebook. Он может предсказать, будет ли пары останутся вместе и если мы будем попытка самоубийства, Из наших лайков в Facebook, ИИ может предсказывать наши религиозные и политические взгляды, личность, интеллект, употребление наркотиков и счастье.

Точность прогнозов ИИ только улучшится. В недалеком будущем, как пишет писатель Ювал Ноа Харари предположил, AI может сказать нам, кто мы, прежде чем мы сами узнаем.

Эти события имеют сейсмические политические последствия. Если правительства могут знать нас лучше, чем мы, открывается новое оправдание для вмешательства в нашу жизнь. Они будут тиранить нас во имя нашего же блага.

Свобода через тиранию

Философ Исайя Берлин предвидел это в 1958 году. выделил два типа свободы, Он предупреждал, что один из них приведет к тирании.

Отрицательная свобода - это «свобода от». Это свобода от вмешательства других людей или правительства в ваши дела. Отрицательная свобода - это никто другой не может вас ограничить, пока вы не нарушаете чьи-либо права.

Напротив, позитивная свобода - это «свобода для». Это свобода владеть собой, свобода выполнять свои истинные желания, свобода вести разумную жизнь. Кто бы этого не хотел?

Но что, если кто-то другой скажет, что вы действуете не в «истинных интересах», хотя они знают, как вы могли бы это сделать. Если вы не будете слушать, они могут заставить тебя быть свободным - принуждение к вам «для вашего же блага». Это одна из самых опасных идей, которые когда-либо возникали. Он убил десятки миллионов человек в Сталинский Советский Союз и Китай Мао.

Сообщается, что лидер российских коммунистов Ленин сказал, что капиталисты продадут ему веревку, на которой он их повесит. Питер Тиль утверждал что в области ИИ капиталистические технологические компании Кремниевой долины продали коммунизм как инструмент, который угрожает подорвать демократическое капиталистическое общество. AI - веревка Ленина.

Сражаемся за себя

Мы сможем предотвратить такую ​​антиутопию, только если никому не позволено знать нас лучше, чем мы знаем самих себя. Мы никогда не должны сентиментально относиться к тем, кто стремится к такой власти над нами из лучших побуждений. Исторически сложилось так, что это всегда кончалось только бедствием.

Один из способов предотвратить пробелы в знаниях - это поднять наши щиты конфиденциальности. Тиль, назвавший ИИ коммунистическим, утверждал, что «крипто либертарианец». Криптовалюты могут быть «приватность включение». Конфиденциальность снижает возможность других узнать нас, а затем использовать эти знания для манипулировать нами ради собственной выгоды.

Тем не менее, знание себя лучше с помощью ИИ дает серьезные преимущества. Возможно, мы сможем использовать его, чтобы лучше понять, что сделает нас счастливыми, здоровыми и богатыми. Это может помочь руководить нашим выбором карьеры, В более общем плане AI обещает создать экономический рост который удерживает нас друг от друга.

Проблема не в том, что ИИ улучшает наше самопознание. Проблема в несоответствие власти в том, что о нас известно, Знание о нас исключительно в чужих руках - это власть над нами. Но знание о нас в наших руках - сила для нас.

Любой, кто обрабатывает наши данные для создания информации о нас должны быть юридически обязаны вернуть нам эти знания. Нам необходимо обновить идею «ничего о нас без нас»Для AI-возраста.

То, что ИИ говорит нам о себе, - это то, что мы должны подумать об использовании, а не о том, чтобы другие получали прибыль от злоупотреблений. На румпеле нашей души всегда должна быть только одна рука. И он должен быть нашим.

Об авторе

Саймон МакКарти-Джонс, доцент по клинической психологии и нейропсихологии, Trinity College Dublin

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

Похожие книги:

О тирании: двадцать уроков двадцатого века

Тимоти Снайдер

Эта книга предлагает уроки истории для сохранения и защиты демократии, включая важность институтов, роль отдельных граждан и опасности авторитаризма.

Нажмите для получения дополнительной информации или для заказа

Наше время пришло: сила, цель и борьба за справедливую Америку

Стейси Абрамс

Автор, политик и активист, делится своим видением более инклюзивной и справедливой демократии и предлагает практические стратегии политического участия и мобилизации избирателей.

Нажмите для получения дополнительной информации или для заказа

Как умирают демократии

Стивен Левицкий и Дэниел Зиблат

В этой книге рассматриваются тревожные признаки и причины краха демократии, на основе тематических исследований со всего мира предлагается понимание того, как защитить демократию.

Нажмите для получения дополнительной информации или для заказа

Народ, нет: краткая история антипопулизма

Томас Франк

Автор предлагает историю популистских движений в Соединенных Штатах и ​​критикует «антипопулистскую» идеологию, которая, как он утверждает, душила демократические реформы и прогресс.

Нажмите для получения дополнительной информации или для заказа

Демократия в одной книге или меньше: как это работает, почему это не работает и почему исправить это проще, чем вы думаете

Дэвид Литт

Эта книга предлагает обзор демократии, включая ее сильные и слабые стороны, и предлагает реформы, чтобы сделать систему более гибкой и подотчетной.

Нажмите для получения дополнительной информации или для заказа