Будущие историки вполне могут рассматривать 2023 год как веху в появлении искусственного интеллекта (ИИ). Но окажется ли это будущее утопический, апокалиптический or где то посередине это чье-то предположение.

В феврале ChatGPT установил рекорд как самое быстрое приложение, достигающее цели. 100 миллионов пользователей. За ним последовали аналогичные модели искусственного интеллекта «большого языка» от Google, Amazon, Meta и других крупных технологических компаний, которые в совокупности, похоже, готовы преобразовать образование, здравоохранение и многие другие наукоемкие области.

Однако потенциальный вред ИИ был подчеркнут в мае зловещее заявление подписано ведущими исследователями:

Снижение риска исчезновения из-за ИИ должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война.

В ноябре, реагируя на растущую обеспокоенность по поводу риска ИИ, 27 стран (включая Великобританию, США, Индию, Китай и Европейский Союз) на первом саммите по безопасности ИИ в Блетчли-Парке в Англии пообещали сотрудничать, чтобы обеспечить безопасное развитие ИИ. для выгода для всех.

Чтобы добиться этого, исследователи сосредоточивают внимание на Выравнивание ИИ – то есть, как обеспечить соответствие моделей ИИ человеческим ценностям, предпочтениям и целям. Но есть проблема — ИИ так называемый «темная тайна»: крупномасштабные модели настолько сложны, что подобны черному ящику, который невозможно полностью понять никому.

Проблема черного ящика ИИ

Хотя прозрачность и объяснимость систем ИИ важные исследовательские цели, такие усилия вряд ли поспеют за бешеным темпом инноваций.

Метафора черного ящика объясняет, почему представления людей об ИИ столь распространены. Прогнозы варьируются от утопии до вымирания, и многие даже полагают, что скоро появится общий искусственный интеллект (AGI). достичь разума.

Но эта неопределенность усугубляет проблему. Согласование ИИ должно быть улицей с двусторонним движением: мы должны не только гарантировать, что модели ИИ соответствуют человеческим намерениям, но и чтобы наши представления об ИИ были точными.

Это потому, что мы удивительно искусны в создании будущего, которое соответствует этим убеждениям, даже если мы о них не подозреваем.

Так называемые "эффекты ожидания», или самоисполняющиеся пророчества, хорошо известны в психологии. Исследования показали, что манипулирование убеждениями пользователей влияет не только на то, как они взаимодействовать с ИИ, но как ИИ подстраивается под пользователя.

Другими словами, то, как наши убеждения (сознательные или бессознательные) влияют на ИИ, потенциально может повысить вероятность любого результата, включая катастрофический.

ИИ, вычисления, логика и арифметика

Нам нужно исследовать глубже, чтобы понять основу ИИ – подобно Алисе в стране чудес, спуститься в кроличью нору и посмотреть, куда это нас приведет.

Во-первых, что такое ИИ? Он работает на компьютерах, как и автоматизированные вычисления. С самого начала как «персептрон» – искусственный нейрон, математически определенный в 1943 году нейрофизиологом. Уоррен МакКаллох и логик Уолтер Питтс – ИИ переплетается с когнитивными науками, нейронауками и информатикой.

Это сближение умов, мозги и и машины всегда новые для производства лучших продуктов. привело к широко распространенному убеждению, что, поскольку ИИ — это вычисления, выполняемые машиной, то естественный интеллект (разум) должен быть результатом вычислений, выполняемых мозгом.

Но что такое вычисление? В конце XIX века математики Ричард Дедекинд и Джузеппе Пеано предложил ряд аксиом, которые определенная арифметика с точки зрения логикии вдохновенные попытки обосновать всю математику на безопасном формальная основа.

Хотя логик Курт Гёдель позже доказал, что эта цель была недостижимый, его работа стала отправной точкой для математика (и дешифровщика) Алан Тьюринг. Его "Машина Тьюринга», абстрактное устройство, способное универсальное вычисление, является основой информатики.

Глубокая структура восприятия

Итак, вычисления основаны на математических идеях, которые восходят к попыткам определить арифметику в логике. Но наши знания арифметики существуют до логики. Если мы хотим понять основы ИИ, нам нужно пойти дальше и спросить, откуда взялась сама арифметика.

Мои коллеги и я недавно показали, что арифметика основана на «глубокая структура» восприятия. Эта структура подобна цветным очкам, которые определенным образом формируют наше восприятие, так что наше восприятие мира упорядочено и управляемо.

Арифметика состоит из набора элементов (числа) и операций (сложение, умножение), объединяющих пары элементов в другой элемент. Мы спросили: почему из всех возможностей числа являются элементами, а сложение и умножение — операциями?

Мы показали по математическое доказательство что, когда предполагалось, что глубокая структура восприятия ограничивает возможности, результатом стала арифметика. Другими словами, когда наш разум смотрит на абстрактный мир через те же «цветные очки», которые формируют наше восприятие физического мира, он «видит» числа и арифметику.

Поскольку арифметика является основой математики, из этого следует, что математика является отражением разума – выражением в символах его фундаментальной природы и творческих способностей.

Хотя глубокая структура восприятия схожа с другими животными и, таким образом, является продуктом эволюции, математику изобрели только люди. Это наше самое сокровенное творение, а благодаря возможности развития искусственного интеллекта оно, пожалуй, самое важное.

Коперниканская революция разума

Наш аккаунт происхождение арифметики соответствует взглядам философа XVIII века Иммануила Канта. По его словам, наши знания о мире структурированы «чистыми интуициями» пространства и времени, которые существуют до чувственного опыта – аналогично цветным очкам, которые мы никогда не сможем снять.

Кант утверждал, что философия была «Коперниканская революция разума». Точно так же, как древние астрономы считали, что Солнце вращается вокруг Земли, потому что они не знали о движении Земли, утверждал Кант, философы, которые считали, что все знания получены из чувственный опыт (Например, Джон Локк и Дэвид Юм) упустили из виду, как разум формирует восприятие.

Хотя взгляды Канта были сформированы естественные науки своего времени, они доказали влиятельный в современной психологии.

Признание того, что арифметика является естественное следствие нашего восприятия, и, таким образом, имеет биологическую основу, предполагает аналогичный кантианский сдвиг в нашем понимании вычислений.

Вычисления не находятся «вне» и не отделены от нас в абстрактной сфере математической истины, а присущи природе нашего разума. Разум – это больше, чем просто вычисления; мозг не компьютер. Скорее, вычисления – основа ИИ – являются, как и математика, символическим выражением природы и творческих способностей разума.

Прометеев огонь

Каковы последствия для ИИ? Во-первых, ИИ не является разумом и никогда не станет разумным. Идея о том, что мы можем превзойти свою биологическую природу и достичь бессмертия, загрузив свой разум в облако, всего лишь фантазия.

Тем не менее, если принципы разума, на которых основан ИИ, разделяются всем человечеством (и, вероятно, также другими живыми существами), возможно, можно будет преодолеть ограничения нашего индивидуального разума.

Поскольку вычисления универсальны, мы можем свободно моделировать и создавать любой результат по своему выбору в наших все более взаимосвязанных виртуальном и физическом мирах. Таким образом, ИИ действительно является нашим Прометеев огонь, дар человечеству, украденный у богов, как в Греческая мифология.

Как глобальная цивилизация, мы, вероятно, находимся на поворотном этапе. ИИ не станет разумным и не решит убей нас всех. Но мы вполне способны «апокалипсисировать» себя с его помощью – ожидание может создать реальность.

Усилия по обеспечению согласованности, безопасности и защиты ИИ жизненно важны, но могут оказаться недостаточными, если нам не хватает осведомленности и коллективного разума. Как и Алисе, нам нужно проснуться ото сна и осознать реальность и силу нашего разума.

Рэндольф ГрейсПрофессор психологии, Университет Кентербери

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.