Ахмет Мисирлигул / Shutterstock

Короткометражный фильм Slaughterbots описывает ближайшее будущее, в котором рои микродронов убивают тысячи людей за их политические убеждения. Выпущен в ноябре 2017 Ученые и активисты, предупреждающие об опасностях передового искусственного интеллекта (ИИ), быстро распространились с невероятной скоростью, привлекая на сегодняшний день взгляды 3m. Это помогло зажечь общественные дебаты о будущем автономного оружия и оказании давления на дипломатов на встрече в ООН Конвенция об обычном оружии.

Но этот вид спекулятивного рассказа научной фантастики не просто полезен для привлечения внимания. Люди, которые проектируют и создают передовые технологии, могут использовать истории, чтобы рассмотреть последствия своей работы и убедиться, что она используется насовсем. И мы думаем, что такого рода «прототипирование научной фантастики» или «художественная фантастика» может помочь не допустить того, чтобы человеческие предрассудки проникли в новые технологии, еще больше укоренив предрассудки и несправедливость общества.

{vembed Y = 9CO6M2HsoIA}

Смещение может привести к произвольному предпочтению одних категорий (результатов, людей или идей) над другими. Например, некоторые люди могут быть склонны к найму женщин на руководящие должности, независимо от того, осознают ли они это или нет.

Технология, основанная на данных, которые регистрируют такое смещение, может в конечном итоге тиражирование проблемы, Например, программное обеспечение по подбору персонала, предназначенное для выбора лучших резюме для конкретной работы, может быть запрограммировано на поиск характеристик, отражающих неосознанный уклон по отношению к мужчинам. В этом случае алгоритм будет отдавать предпочтение мужским резюме. И это не теоретически - это на самом деле случилось с Амазонкой.

Разработка алгоритмов без учета возможных негативных последствий был сравнен врачам «писать о пользе данного лечения и полностью игнорировать побочные эффекты, какими бы серьезными они ни были».

Некоторые технические фирмы и исследователи пытаются решить эту проблему. Например, Google составил набор этических принципов руководить его развитием ИИ. И британские ученые выступили с инициативой под названием Не равный это направлено на поощрение большей справедливости и справедливости при разработке и использовании технологий.

Проблема заключается в том, что публично компании, как правило, дают только позитивное представление о потенциальных последствиях технологий ближайшего будущего. Например, автомобили без водителя часто изображаются как решение всех наших транспортных проблем от стоимости до безопасности, игнорируя возросшие Опасности кибератак или тот факт, что они могут побудить людей меньше ходить или ездить на велосипеде.

Трудность в понимании того, как работают цифровые технологии, особенно те, которые в значительной степени управляются непонятными алгоритмами, также затрудняет для людей сложное и всестороннее представление о проблемах. Эта ситуация порождает напряженность между обнадеживающим позитивным повествованием и смутным подозрением о том, что предрассудки в той или иной степени заложены в технологии вокруг нас. Здесь мы думаем, что рассказывание историй через художественную литературу может прийти.

Истории - это естественный способ думать о возможностях и сложных ситуациях, и мы слышали их всю жизнь. Научная фантастика может помочь нам размышлять о влиянии технологий ближайшего будущего на общество, как это делает Слотерботс. Это может даже включать вопросы социальной справедливости, такие как то, как определенные группы, такие как беженцы и мигранты, могут быть исключен из цифровые инновации.

Выявление (возможного) будущего

Художественная литература предоставить новый способ для дизайнеров, инженеров и футуристов (среди прочих) подумать о влиянии технологий с человеческой точки зрения и связать это с возможными будущими потребностями. Со смесью логики и воображения, художественная литература может раскрыть аспекты того, как технология может быть принята и использована, начав разговор о ее будущие последствия.

Например, рассказ «Crime-источников»Исследует, что может произойти, если ИИ будет использовать краудсорсинговую информацию и криминальную базу данных, чтобы предсказать, кто может совершить убийство. Исследователи обнаружили, что, поскольку база данных была заполнена людьми из этнических меньшинств, которые по социальным причинам имели более высокую вероятность повторного совершения преступления, модель «раскрытия преступлений» с большей вероятностью ошибочно подозревать меньшинства чем белые люди.

Вам не нужно быть талантливым писателем или снимать фильм, чтобы создать художественную литературу. Мозговая атака с участием карт и раскадровок был использован развивать художественную литературу и помогать развивать процесс рассказывания историй. Более широкое распространение семинаров, в которых использовались такие инструменты, позволило бы большему числу инженеров, предпринимателей и политиков использовать этот метод оценки. А обнародование итоговой работы поможет выявить потенциальные отклонения в технологиях, прежде чем они повлияют на общество.

Поощрение дизайнеров к созданию и распространению большего количества историй таким образом гарантировало бы, что повествование, лежащее в основе новой технологии, не просто представит позитивную картину, ни крайне негативную или антиутопическую. Вместо этого люди смогут оценить оба аспекта происходящего вокруг нас.

Об авторах

Алессио МалицияПрофессор дизайна пользовательского опыта, Университете Хартфордшир и Сильвио Карта, Руководитель отдела дизайна и искусства, председатель исследовательской группы дизайна, Университете Хартфордшир

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.