Мы живем в мире, который становится все более сложным и автоматизированный, Таким образом, как только нам приходится решать более сложные проблемы, автоматизация приводит к атрофии человеческих навыков, которые могут оставить нас более уязвимыми при реагировании на непредвиденные ситуации или когда что-то пойдет не так.

Рассмотрим один пример на платформе последние минуты полета Air France 447, который врезался в Атлантику в мае 2009 после отъезда из Рио-де-Жанейро, Бразилия, в Париж, Франция.

Его бортоскоп показал полная путаница в кабине, Самолет наклонился вверх на 15º с автоматическим голосовым повторением, называющим «стойло, стойло». Но пилоты шатались, один восклицал: «[...] мы ничего не понимаем».

Это не то место, где нужно входить во все злополучные полеты, кроме того, чтобы отметить, что любая система, предназначенная для автоматического решения непредвиденных обстоятельств, в большинстве случаев оставляет деградированную квалификационную базу для меньшинства ситуаций, которые дизайнеры могли не предвидеть.

Выступая перед Ярмарка тщеславия, Надин Сартер, инженер-промышленник из Мичиганского университета, вспоминает беседу с пятью инженерами, участвующими в строительстве конкретного самолета.

Я начал спрашивать: «Ну, как это работает?» И они не могли договориться о ответах. Поэтому я думал, если эти пять инженеров не могут согласиться, бедный пилот, если он когда-нибудь столкнется с этой конкретной ситуацией ... ну, удачи.

По сути, сложность разумно летающих высокотехнологичных авиалайнеров была передана роботу, летные инженеры во всех смыслах и целях из кокпитов. Только более старые пилоты и пилоты ВВС сохраняют эти подробные навыки.

Вернувшись на terra firma, в автономном мире вождения могут быть целые будущие поколения, не имеющие практического опыта в вождение и плавание средство передвижения.

Мы уже видим указание на что может пойти не так когда люди оставляют контроль над автономные системы.

Расследование фатальный сбой модели Tesla S с автопилотом отметил, что компания предоставила информацию о «системных ограничениях» для водителей. В этом случае водителям все равно стоит обратить внимание.

Но какова вероятность того, что человек возьмет на себя какие-либо меры контроля, если в будущем они начнут ошибаться полностью автономный автомобиль, Знают ли они, как определить ранние признаки надвигающейся катастрофы?

Потерять дорогу?

Вождение - это технологический детерминизм, который считает, что любые инновации являются по своей сути хорошими. В то время как новые технологии могут еще определить, какими они должны быть людьми, задача состоит в том, чтобы признать риск и что делать, чтобы все не пошло не так.

Это становится все сложнее, поскольку мы добавляем к сложности, особенно при автономном вождении пригородные поезда, воздушные такси и беспилотные самолеты.

Разработчики системы строят большие и более переплетенные системы для совместного использования вычислительной нагрузки, хотя это делает их творения главными кандидатами для пробоя. Они не обращают внимания на то, что как только все будет связано, проблемы могут распространяться так же легко, как решения, а иногда и более.

Растущая и огромная сложность автоматизированного мира создает аналогичные риски.

Опасные точки

Оглядываясь назад, необходимо иметь возможность разрезать сети бесплатно, когда есть точки отказа, или, по крайней мере, запечатывать части одной сети, когда в ней есть точки отказа.

Этот «остров» - это особенность интеллектуальных электрических сетей, позволяющих разделить сеть на фрагменты, которые способны самостоятельно поддерживать свой внутренний спрос на электроэнергию. Моделирование показало, что меньшее количество подключений может привести к большей безопасности.

Может ли возникающая сложность наука помочь определить, где опасные точки могут находиться в сильно взаимосвязанных сетях? Мартен Схеффер и его коллеги так и думал. Он видел сходство между поведением (его) естественных систем и экономическими и финансовыми системами.

Его более ранняя работа на озерах, коралловых рифах, морях, лесах и лугопастбищных угодьях обнаружил, что условия, подверженные постепенным изменениям, такие как климат, загрузка питательных веществ и потеря среды обитания, могут достигать точек опрокидывания, которые переворачивают их в иногда необратимое низкое состояние.

Могут ли банкиры и экономисты, борющиеся со стабильностью финансовых рынков, учиться у исследователей в области экологии, эпидемиологии и климатологии, чтобы разработать маркеры близости к критическим порогам и разбивке системы?

В феврале 2016 это все собралось в форме документ по теории сложности и финансовому регулированию в соавторстве с широким кругом экспертов, в том числе экономист, банкир, физик, климатолог, эколог, зоолог, ветеринар и эпидемиолог.

Они рекомендовали онлайн-интеграцию данных, методов и показателей, вносящих стресс-тесты для глобальных социально-экономических и финансовых систем в почти реальном времени. Первое похоже на то, что было достигнуто при работе с другими сложными системами, такими как погода.

Мы можем начать видеть, как наш пример автономного движущегося мира складывается в вопросы устойчивости сети. Представьте себе взаимосвязанную сеть автономных транспортных средств.

Существует явная необходимость знать, как выявлять и изолировать любые потенциальные точки отказа в такой сети, прежде чем все пойдет не так с потенциально трагическими последствиями. Это больше, чем просто защита водителя и пассажира от любого сбоя системы в одном автономном автомобиле.

Пришло время подумать, как мы можем использовать эти междисциплинарные достижения в понимании стабильности таких сетей большого масштаба, чтобы избежать серьезных последствий.

Об авторе

Питер Фишер, адъюнкт-профессор, глобальные, городские и общественные науки, Университет RMIT

Эта статья изначально была опубликована в Беседа, Прочтите оригинал статьи.

Книги по этой теме

at Внутренний рынок самовыражения и Amazon