Даже 17 лет за 2001, скафандры более громоздки, чем это. Мэтью Дж. Коттер / Фликр, CC BY-SA

Смотря 50-й юбилейный скрининг «2001: Космическая одиссея», я обнаружил, что математик и компьютерный ученый чьи исследования включают в себя работу, связанную с искусственным интеллектом, сравнивая концепцию будущего будущего с сегодняшним миром.

Фильм был сделан в сотрудничестве с писателем-фантастом Артуром Кларком и режиссером Стэнли Кубриком, вдохновленным романом Кларка «Детский конец» и его менее известным рассказом «Страж». Удивительная работа спекулятивной фантастики, изображающая - в терминах иногда обнадеживающих и других времен предостерегающих - будущее чуждых контактов, межпланетных путешествий, сознательных машин и даже следующего великого эволюционного скачка человечества.

Самый очевидный способ, которым 2018 не соответствовал видению «2001», - это космические путешествия. Люди еще не посещают обычные космические станции, делая незабываемые визиты к одной из нескольких баз Луны и не путешествуя по другим планетам. Но Кубрик и Кларк попали в глаза, воображая возможности, проблемы и проблемы будущего искусственного интеллекта.

Открытие «2001: Космическая одиссея:

{youtube}https://youtu.be/WufKsOhkTL8{/youtube}

Что могут делать компьютеры?

Главная драма фильма во многом может рассматриваться как битва за смерть человека и компьютера. Искусственный интеллект «2001» воплощен в HAL, всезнающем вычислительном присутствии, мозге космического корабля Discovery One - и, возможно, самом известном персонаже фильма. HAL отмечает вершину вычислительных достижений: самоочевидное, казалось бы безошибочное устройство и вездесущее присутствие на корабле, всегда слушая, всегда наблюдая.

HAL - это не просто технический помощник команды, а, скорее, слова командира миссии Дейва Боумана - шестого члена экипажа. Люди взаимодействуют с HAL, разговаривая с ним, и он отвечает измеренным мужским голосом, где-то между кормильцем, но все-таки-падшим родителем и благонамеренной медсестрой. HAL - это Алекс и Сири, но гораздо лучше. HAL имеет полный контроль над кораблем, а также, как выясняется, является единственным членом экипажа, который знает истинную цель миссии.

Этика в машине

Напряжение третьего акта фильма вращается вокруг Боумена, и его товарищ по команде Фрэнк Пул все больше осознает, что HAL работает неправильно, и HAL обнаруживает эти подозрения. Дэйв и Фрэнк хотят вытащить вилку на компьютер с ошибкой, в то время как самосознание HAL хочет жить. Все хотят завершить миссию.

Человек против машины:

{youtube}https://youtu.be/qDrDUmuUBTo{/youtube}

Матч по шахматам, связанным с жизнью или смертью между людьми и HAL, предлагает прекурсоры некоторых из сегодняшних вопросов о распространенности и развертывании искусственного интеллекта в повседневной жизни людей.

Прежде всего, речь идет о том, насколько люди контроля должны уступать искусственно интеллектуальным машинам, независимо от того, насколько «умными» могут быть системы. Управление HAL для Discovery похоже на глубокую космическую версию сетевого дома будущего или без водителя. Граждане, политики, экспертов и исследователей все еще изучают степень, в которой автоматизация может - или должна - вывести людей из цикла, Некоторые из соображений касаются относительно простых вопросов о надежность машин, но другие вопросы более тонкие.

Действия вычислительной машины диктуются решениями, закодированными людьми в алгоритмах, управляющих устройствами. Алгоритмы обычно имеют определенную количественную цель, к которой каждое из ее действий должно выиграть игру шашек, шахмат или Go. Подобно тому, как система ИИ будет анализировать позиции игровых предметов на доске, она также может измерять эффективность склада or энергопотребление центра обработки данных.

Но что происходит, когда моральной или этической дилеммы возникает в пути к цели? Для самосознания HAL, завершение миссии - и пребывание в живых - побеждает, когда измеряется против жизни экипажа. А как насчет машины без водителя? Это миссия самозанятого автомобиля, например, как можно быстрее достать пассажира из одного места в другое или избежать убийства пешеходов? Когда кто-то ступит перед автономным транспортным средством, эти цели конфликтуют. Это может показаться очевидным «выбором» для проецирования, но что, если автомобиль должен «Выбирать» между двумя различными сценариями, каждый из которых может привести к человеческой смерти?

Под надзором

В одной классической сцене Дэйв и Фрэнк входят в состав космической станции, где они думают, что HAL не может услышать их, чтобы обсудить их сомнения относительно функционирования HAL и его способности контролировать корабль и руководить миссией. Они поднимают мысль о том, чтобы закрыть его. Мало ли они знают, что камеры HAL могут видеть их: компьютер читает их губы через окно подкачки и узнает о своих планах.

HAL читает губы:

{youtube}https://youtu.be/1s-PiIbzbhw{/youtube}

В современном мире версия этой сцены происходит каждый день каждый день. Большинство из нас постоянно контролируются, через почти всегда на телефонах или корпоративным и государственным наблюдение за действиями в реальном мире и в Интернете, Граница между частными и общественными стала и продолжает становиться все более размытой.

Отношение персонажей в фильме заставило меня много думать о том, как люди и машины могут сосуществовать или даже развиваться вместе. На протяжении большей части фильма даже люди разговаривают друг с другом мягко, без особого тона или эмоций - поскольку они могут разговаривать с машиной или как машина может разговаривать с ними. Известная сцена смерти HAL - в которой Дейв методически отключает свои логические связи - заставило меня задуматься, будут ли интеллектуальные машины когда-либо предоставлены нечто, эквивалентное правам человека.

Кларк считал вполне возможным, что время людей на Земле было всего лишь "короткое место отдыха«И что созревание и эволюция вида неизбежно выведут людей за пределы этой планеты. «2001» заканчивается оптимистично, сворачивая человека через «Звездные врата», чтобы отметить возрождение гонки. Для этого в действительности потребуются люди, чтобы выяснить, как наилучшим образом использовать машины и устройства, которые они строят, и убедиться, что мы не позволяем этим машинам управлять нами.

Об авторе

Даниэль Н. Рокмор, профессор, факультет математики, вычислительной техники и информатики, Колледж Дартмут

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

Книги по этой теме

at Внутренний рынок самовыражения и Amazon