Чат-боты с искусственным интеллектом становятся все более мощными, но как узнать, работают ли они в ваших интересах? 

Если вы спросите Alexa, систему искусственного интеллекта голосового помощника Amazon, является ли Amazon монополией, она ответит: говоря, что не знает. Это не займет много времени, чтобы сделать это раскритиковать других технологических гигантов, но умалчивает о проступках своего корпоративного родителя.

Когда Alexa отвечает таким образом, очевидно, что она ставит интересы своего разработчика выше ваших. Однако обычно не так очевидно, кому обслуживает система ИИ. Чтобы избежать использования этих систем, людям нужно научиться скептически относиться к ИИ. Это означает, что вы намеренно формируете входные данные и критически думаете о результатах.

Новые поколения моделей искусственного интеллекта с их более изощренными и менее шаблонными ответами усложняют определение того, кому выгодна их речь. В том, что интернет-компании манипулируют тем, что вы видите, в своих интересах, нет ничего нового. Результаты поиска Google и ваша лента Facebook заполнены платными записями. Facebook, TikTok и другие манипулируют вашими лентами, чтобы максимизировать время, которое вы проводите на платформе, что означает больше просмотров рекламы, а не ваше благополучие.

Что отличает системы ИИ от этих других интернет-сервисов, так это то, насколько они интерактивны, и то, как эти взаимодействия будут все больше становиться похожими на отношения. Не нужно много экстраполировать современные технологии, чтобы представить ИИ, который будет планировать поездки для вас, вести переговоры от вашего имени или выступать в качестве терапевтов и лайф-коучей.

Скорее всего, они будут с вами 24 часа в сутки, 7 дней в неделю, хорошо знают вас и смогут предвидеть ваши потребности. Такой диалоговый интерфейс с обширной сетью сервисов и ресурсов в Интернете находится в пределах возможностей существующих генеративных ИИ, таких как ChatGPT. Они на пути к тому, чтобы стать персонализированные цифровые помощники.

эксперт по безопасности и ученый данных, мы считаем, что люди, которые полагаются на эти ИИ, должны будут безоговорочно доверять им в повседневной жизни. Это означает, что им нужно будет убедиться, что ИИ не работают тайно на кого-то другого. В Интернете устройства и сервисы, которые, кажется, работают на вас, уже тайно работают против вас. Смарт-телевизоры шпионить за тобой. Приложения для телефона собирать и продавать ваши данные. Множество приложений и веб-сайтов манипулировать вами через темные узоры, элементы дизайна, которые умышленно вводить в заблуждение, принуждать или обманывать посетителей веб-сайта. Это наблюдательный капитализм, и ИИ готовится стать его частью. ИИ играет роль в капитализме наблюдения, который сводится к шпионажу за вами, чтобы заработать на вас деньги.

Во тьме

Вполне возможно, что с ИИ могло быть гораздо хуже. Чтобы этот цифровой помощник с искусственным интеллектом был действительно полезным, он должен действительно знать вас. Лучше, чем ваш телефон знает вас. Лучше, чем поиск Google знает вас. Возможно, лучше, чем ваши близкие друзья, интимные партнеры и терапевт знают вас.

У вас нет причин доверять ведущим современным инструментам генеративного ИИ. Оставьте в стороне галлюцинаций, выдуманные «факты», которые производят GPT и другие большие языковые модели. Мы ожидаем, что они будут в значительной степени устранены по мере совершенствования технологии в течение следующих нескольких лет.

Но вы не знаете, как устроены ИИ: как их обучали, какую информацию им давали и какие инструкции им приказывали выполнять. Например, исследователи раскрыл секретные правила которые управляют поведением чат-бота Microsoft Bing. Они в основном доброкачественные, но могут измениться в любое время.

Зарабатывание денег

Многие из этих ИИ создаются и обучаются за огромные деньги некоторыми из крупнейших технологических монополий. Их предлагают людям использовать бесплатно или по очень низкой цене. Этим компаниям нужно будет их как-то монетизировать. И, как и в случае с остальной частью Интернета, это каким-то образом может включать в себя слежку и манипуляции.

Представьте, что вы просите своего чат-бота спланировать свой следующий отпуск. Выбрала ли она конкретную авиакомпанию, сеть отелей или ресторан, потому что они были лучшими для вас, или потому, что их создатель получил откат от бизнеса? Как и в случае платных результатов в поиске Google, рекламы в новостной ленте на Facebook и платных размещений по запросам Amazon, эти платные влияния, вероятно, со временем станут более скрытными.

Если вы запрашиваете у своего чат-бота политическую информацию, не искажает ли результаты политика корпорации, которой принадлежит чат-бот? Или кандидат, который заплатил больше всего денег? Или даже взгляды на демографию людей, чьи данные использовались при обучении модели? Является ли ваш агент ИИ тайным двойным агентом? Прямо сейчас нет никакого способа узнать.

Надежный по закону

Мы считаем, что люди должны ожидать большего от технологий и что технологические компании и ИИ могут стать более надежными. Предложенный Европейским союзом Закон об ИИ предпринимает некоторые важные шаги, требуя прозрачности данных, используемых для обучения моделей ИИ, устранения потенциальной систематической ошибки, раскрытия предсказуемых рисков и отчетности по стандартным отраслевым тестам. Европейский союз продвигает регулирование ИИ.

Большинство существующих ИИ не соблюдать с этим формирующимся европейским мандатом, и, несмотря на недавний толчок от лидера большинства в Сенате Чака Шумера, США сильно отстают в таком регулировании.

ИИ будущего должны заслуживать доверия. До тех пор, пока правительство не обеспечит надежную защиту потребителей продуктов ИИ, люди будут сами догадываться о потенциальных рисках и предубеждениях, связанных с ИИ, и смягчать их худшее влияние на опыт людей с ними.

Поэтому, когда вы получаете рекомендацию о путешествии или политическую информацию от инструмента ИИ, относитесь к ней с таким же скептическим взглядом, как к рекламе на билборде или волонтеру избирательной кампании. Несмотря на все свое технологическое волшебство, инструмент ИИ может быть немного больше, чем то же самое.

Об авторе

Брюс Шнайер, адъюнкт-лектор по государственной политике, Школа Гарварда Кеннеди и Натан Сандерс, филиал Центра Интернета и общества Беркмана Кляйна, Гарвардский университет

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.