Для недавнее увольнение и быстрый прием на работу Сэма Альтмана из OpenAI, дебаты вокруг разработки и использования искусственного интеллекта (ИИ) снова оказались в центре внимания. Еще более необычно то, что важной темой в сообщениях средств массовой информации была способность Системы искусственного интеллекта для математических вычислений.
Судя по всему, некоторая драма в OpenAI была связана с разработкой компанией нового Алгоритм искусственного интеллекта под названием Q*. О системе говорили как о значительном прорыве, и одной из ее существенных особенностей была способность рассуждать математически.
Но разве математика не является основой ИИ? Как могут у системы искусственного интеллекта возникнуть проблемы с математическими рассуждениями, учитывая, что компьютеры и калькуляторы могут выполнять математические задачи?
ИИ — это не единое целое. Это смесь стратегий выполнения вычислений без прямых инструкций со стороны человека. Как мы увидим, некоторые системы ИИ компетентны в математике.
Однако одна из наиболее важных современных технологий — большие языковые модели (LLM), лежащие в основе чат-ботов с искусственным интеллектом, таких как ChatGPT, до сих пор с трудом имитирует математические рассуждения. Это потому, что они были разработаны, чтобы сосредоточиться на языке.
Если новый алгоритм Q* компании сможет решить невидимые математические задачи, то это вполне может быть значительным прорывом. Математика – это древняя форма человеческого мышления, большие языковые модели (LLM) до сих пор изо всех сил пытались подражать. LLM — это технология, лежащая в основе таких систем, как ChatGPT от OpenAI.
На момент написания подробности об алгоритме Q* и его возможностях ограничены, но очень интригуют. Итак, прежде чем считать Q* успешным, следует учитывать различные тонкости.
Например, математика — это предмет, которым каждый занимается в разной степени, и уровень математики, на котором Q* компетентен, остается неясным. Тем не менее, была опубликована научная работа, в которой используются альтернативные формы ИИ для продвижения математики на исследовательском уровне (включая некоторые написанные мнойи один, написанный командой математиков в сотрудничестве с исследователями из Google DeepMind).
Эти системы искусственного интеллекта можно назвать компетентными в математике. Однако вполне вероятно, что Q* используется не для помощи ученым в их работе, а скорее предназначен для другой цели.
Тем не менее, даже если Q* не способен раздвинуть границы передовых исследований, весьма вероятно, что в том, как он был построен, можно найти какое-то значение, которое может открыть заманчивые возможности для будущего развития.
Все более комфортно
Мы как общество все больше чувствуем себя комфортно, когда специализированный ИИ используется для решения заранее определенных типов проблем. Например, цифровые помощники, распознавания лицкачества онлайн-системы рекомендаций будет знаком большинству людей. Что остается неуловимым, так это так называемая «искусственный общий интеллект» (AGI) обладающий широкими мыслительными способностями, сравнимыми с человеческими.
Математика — это базовый навык, которому мы стремимся научить каждого школьника, и который, несомненно, можно считать фундаментальной вехой в поисках ОИИ. Так чем же еще математически компетентные системы ИИ могли бы помочь обществу?
Математическое мышление применимо ко множеству приложений, например, к программированию и инженерному делу, поэтому математическое мышление является жизненно важным передаваемым навыком как для человеческого, так и для искусственного интеллекта. Ирония заключается в том, что ИИ на фундаментальном уровне основан на математике.
Например, многие методы, реализуемые алгоритмами ИИ, в конечном итоге сводятся к математической области, известной как матричная алгебра. Матрица — это просто сетка чисел, знакомым примером которой является цифровое изображение. Каждый пиксель не более чем числовые данные.
Большие языковые модели также по своей сути являются математическими. Основываясь на огромном образце текста, машина может вычислить вероятности слов, которые скорее всего, последует подсказке (или вопросу) пользователя в чат-бот. Если вы хотите, чтобы предварительно обученный LLM специализировался на определенной теме, его можно настроить на математическую литературу или любую другую область обучения. LLM может генерировать текст, который читается так, как будто он понимает математику.
К сожалению, в результате получается LLM, который хорош в блефе, но плох в деталях. Проблема в том, что математическое утверждение по определению является таким, которому можно присвоить однозначное логическое значение (то есть истинно или ложно). Математическое рассуждение представляет собой логический вывод новых математических утверждений из ранее установленных.
Адвокат дьявола
Естественно, любой подход к математическим рассуждениям, основанный на лингвистических вероятностях, выйдет за пределы своей полосы движения. Одним из способов решения этой проблемы может быть включение в архитектуру некоторой системы формальной проверки (именно так построен LLM), которая постоянно проверяет логику скачков, совершаемых большой языковой моделью.
Подсказкой о том, что это было сделано, может быть имя Q*, которое вполне может относиться к алгоритм, разработанный еще в 1970-х годах помочь с дедуктивным рассуждением. Альтернативно, Q* может относиться к Q-обучению, при котором модель может улучшаться с течением времени путем проверки и вознаграждения за правильные выводы.
Однако на пути создания математически способного ИИ существует ряд проблем. Например, некоторые из наиболее интересных математических задач состоят из весьма маловероятных событий. Существует множество ситуаций, в которых можно подумать, что существует закономерность, основанная на небольших числах, но она неожиданно нарушается, когда проверяется достаточное количество случаев. Эту возможность сложно реализовать в машине.
Еще одна проблема может стать неожиданностью: математические исследования могут быть весьма творческими. Так и должно быть, потому что практикам необходимо изобретать новые концепции и при этом оставаться в рамках формальные правила древнего предмета.
Любая методология ИИ, обученная только находить закономерности в ранее существовавшей математике, по-видимому, никогда не сможет создать по-настоящему новую математику. Учитывая взаимосвязь между математикой и технологией, это, по-видимому, исключает концепцию новых технологических революций.
Но давайте на минутку поиграем в адвоката дьявола и представим, действительно ли ИИ может создать новую математику. Предыдущий аргумент против этого имеет недостаток: можно также сказать, что лучшие математики-люди также обучались исключительно ранее существовавшей математике. Большие языковые модели уже удивляли нас раньше и будут удивлять снова.
Том Оливер, преподаватель кафедры информатики и инженерии, Вестминстерский университет
Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.
