Информация – ценный товар. И благодаря технологиям, есть миллионы терабайт об этом в Интернете.

Инструменты искусственного интеллекта (ИИ), такие как ChatGPT, теперь управляют этой информацией от нашего имени — сопоставляют ее, обобщают и возвращают нам.

Но этот «аутсорсинг» управления информацией ИИ, каким бы удобным он ни был, имеет последствия. Это может влиять не только почему мы думаем, но потенциально также КАК мы думаем.

Что происходит в мире, где алгоритмы ИИ решают, какую информацию сохранить, а какую оставить на обочине?

Рост персонализированного искусственного интеллекта

Инструменты генеративного искусственного интеллекта построены на моделях, обученных на сотнях гигабайт ранее существовавшие данные. Из этих данных они узнают, как автономно создавать текст, изображения, аудио- и видеоконтент, а также могут отвечать на запросы пользователей, объединяя «наиболее вероятный» ответ.

ChatGPT используется миллионы людей, несмотря на то, что он был публично обнародован менее года назад. В июне добавлено пользовательские ответы сделал и без того впечатляющего чат-бота еще более полезным. Эта функция позволяет пользователям сохранять индивидуальные инструкции, объясняющие, для чего они используют бота и как они хотят, чтобы он реагировал.

Это один из нескольких примеров «персонализированного ИИ»: категории инструментов ИИ, которые генерируют контент в соответствии с конкретными потребностями и предпочтениями пользователя.

Другим примером является недавно запущенный Meta виртуальный помощник, Мета ИИ. Этот чат-бот может общаться, создавать изображения и выполнять задачи на платформах Meta, включая WhatsApp, Messenger и Instagram.

Исследователь искусственного интеллекта и соучредитель DeepMind Мустафа Сулейман. описывает персонализированный ИИ — это скорее отношения, чем технология:

Это друг. […] Он действительно будет всегда присутствовать рядом с вами, жить с вами – по сути, в вашей команде. Мне нравится думать об этом как о том, что рядом с тобой находится отличный тренер.

Но эти технологии также вызывают споры, и возникают опасения по поводу Право собственности на данные, смещение и дезинформация.

Технологические компании пытаются найти способы борьбы с этими проблемами. Например, Google добавил ссылки на источники в сводки результатов поиска, созданные с помощью искусственного интеллекта. Генеративный опыт поиска (SGE), который в начале этого года подвергся критике за предлагая неточные и проблемные ответы.

Технологии уже изменили наше мышление

Как инструменты генеративного искусственного интеллекта, особенно персонализированные для нас, изменят наше мышление?

Чтобы понять это, давайте вернемся к началу 1990-х годов, когда Интернет впервые вошел в нашу жизнь. Люди внезапно получили доступ к информации практически обо всем, будь то банковское дело, выпечка, обучение или путешествия.

Спустя почти 30 лет исследования показали, как связь с этим глобальным «коллективным разумом» изменила наше познание, память и творческие способности.

Например, имея мгновенный доступ к эквиваленту 305.5 млрд. Страниц информации увеличило количество людей метазнание – то есть их знания о знаниях. Одним из последствий этого является то, что «Гугл эффект»: явление, при котором онлайн-поиск увеличивает нашу способность находить информацию, но ухудшает нашу память о том, что это была за информация.

С одной стороны, было показано, что передача нашего мышления поисковым системам высвобождает наши умственные резервы для решение проблем и творческое мышление. С другой стороны, поиск информации в Интернете связан с увеличением отвлекаемость и зависимость.

Исследования также показывают, что онлайн-поиск – независимо от количества или качества полученной информации – увеличивает нашу когнитивная самооценка. Другими словами, это увеличивает нашу веру в собственные «умные способности».

Соедините это с тем фактом, что запрашивать информацию сложно – и чем больше мы доверяем нашей поисковой системе, тем меньше мы критически относимся заниматься его результатами – и вы можете понять, почему доступ к беспрецедентным объемам информации не обязательно делает нас мудрее.

Должны ли мы передать наше мышление на аутсорсинг?

Сегодняшние инструменты генеративного искусственного интеллекта выходят далеко за рамки простого предоставления нам результатов поиска. Они находят для нас информацию, оценивают ее, синтезируют и возвращают нам.

Каковы могут быть последствия этого? Без продвижения контроля качества под руководством человека перспективы не будут многообещающими.

Способность генеративного ИИ давать ответы, которые кажутся знакомыми, объективными и интересными, означает, что он делает нас более уязвимыми для познавательные уклоны.

Ассоциация предвзятость автоматизацииНапример, это человеческая склонность переоценивать целостность информации, полученной из машин. И простое разоблачение Эффект заключается в том, что мы с большей вероятностью доверяем информации, которая представлена ​​как знакомая или личная.

Исследования в социальных сетях могут помочь нам понять влияние таких предубеждений. В одном исследовании 2016 года пользователи Facebook сообщили чувствовать себя более «в курсе» в зависимости от количества новостного контента, размещенного в Интернете, а не от того, сколько из них они на самом деле прочитали.

Мы также знаем, что «фильтровать пузырьки» созданные алгоритмами социальных сетей, в которых наши каналы фильтруются в соответствии с нашими интересами, ограничивают разнообразие контента, которому мы подвергаемся.

Было показано, что этот процесс сужения информации увеличивает идеологическая поляризация путем уменьшения склонности людей рассматривать альтернативные точки зрения. Также было доказано, что это увеличивает вероятность того, что мы подвергнемся воздействию поддельные новости.

Использование ИИ, чтобы поумнеть, а не тупить

Генеративный ИИ, без сомнения, является революционной силой, способной совершить великие дела для общества. Это могло бы изменить нашу систему образования, предоставив персонализированный контент, измените нашу практику работы, ускорив написание и анализ информациии раздвинуть границы научное открытие.

У него даже есть потенциал позитивно изменить наши отношения, помогая нам общаться и устанавливать связи с другими, а иногда он может действовать как форма синтетического товарищества.

Но если наш единственный способ судить о будущем — это смотреть в прошлое, возможно, сейчас самое время задуматься о том, как Интернет и социальные сети изменили наше мышление, и применить некоторые меры предосторожности. Разработка ИИ-грамотность — хорошее место для начала, равно как и разработка инструментов искусственного интеллекта, которые поощряют человеческую автономию и критическое мышление.

В конечном итоге нам нужно будет понять как наши собственные а также сильные и слабые стороны ИИ чтобы эти «мыслящие» товарищи помогли нам создать будущее, которое мы хотим, а не то, которое оказывается наверху списка.

Сара Вивьен Бентли, научный сотрудник отдела ответственных инноваций, Data61, CSIRO; Клэр Мейсон, главный научный сотрудник, CSIROкачества Эйнат Гримберг, научный сотрудник в области технологий и социальных наук, CSIRO

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.