Фото: Норберт Эпли, Швейцария (Пользователь: Noebu)

В 2016 самоходные автомобили пошли в основное русло. Автономные машины Убер стал вездесущим в районах, где я живу в Питтсбурге, и ненадолго в Сан-Франциско, Министерство транспорта США издало новое нормативное руководство для них. бесчисленный бумага и столбцы обсудили, как самозанятые автомобили должен решить этические затруднения когда дела идут плохо. И, к сожалению, 2016 также видел первая летальность с использованием автономного транспортного средства.

Автономные технологии быстро распространяются за пределы транспортного сектора, здравоохранение, продвинутая киберпреступность и даже автономное оружие, В 2017 нам нужно решить, можем ли мы доверять этим технологиям. Это будет намного сложнее, чем мы могли бы ожидать.

Доверие сложное и разнообразное, но и ключевая часть нашей жизни. Мы часто доверяем технологии основанный на предсказуемости: Я верю чему-то, если знаю, что он будет делать в конкретной ситуации, даже если я не знаю почему. Например, я доверяю своему компьютеру, потому что знаю, как он будет функционировать, в том числе, когда он сломается. Я перестаю доверять, если он начнет вести себя по-другому или удивительно.

Напротив, мое доверие к моей жене основано на понимание ее убеждений, ценностей и личности, В более общем плане, межличностное доверие не предполагает точно знать, что сделает другой человек - моя жена, конечно, иногда меня удивляет! - но почему они действуют так, как они. И, конечно, мы можем доверять кому-то (или чему-то) в обоих направлениях, если мы знаем, что они будут делать и почему.

Я изучаю возможные основы для нашего доверия к автомобилям с самообслуживанием и другим автономным технологиям как с этической, так и с психологической точки зрения. Это устройства, поэтому предсказуемость может показаться ключом. Однако из-за их автономии нам нужно учитывать важность и ценность - и проблему - научиться доверять им в том, как мы доверяем другим людям.

Автономия и предсказуемость

Мы хотим, чтобы наши технологии, в том числе самоходные автомобили, вели себя так, как мы можем предсказать и ожидать. Конечно, эти системы могут быть весьма чувствительны к контексту, включая другие транспортные средства, пешеходы, погодные условия и т. Д. В целом, однако, мы могли бы ожидать, что самоходный автомобиль, который неоднократно помещается в одну и ту же среду, должен, по-видимому, вести себя одинаково каждый раз. Но в каком смысле эти автомобили с высокой предсказуемостью будут автономными, а не просто автоматическими?

Там есть было многих различный попытки в определять автономия, но все они имеют это общее: автономные системы могут принимать собственные (материальные) решения и планы и тем самым действовать иначе, чем ожидалось.

Фактически, одна из причин использования автономии (в отличие от автоматизации) - это именно то, что эти системы могут преследовать неожиданные и удивительные, хотя и оправданные, способы действий. Например, AlphaGo от DeepMind выиграл вторую игру своей недавней серии Go против Ли Седола отчасти из-за шаг, который ни один человек не сделал бы, но тем не менее был правильным ходом, Но эти же сюрпризы затрудняют установление доверия на основе прогноза. Сильное доверие, основанное исключительно на предсказуемости, возможно возможно только для автоматизированных или автоматических систем, именно потому, что они предсказуемы (при условии, что система функционирует нормально).

Охватывающие сюрпризы

Конечно, другие люди часто удивляют нас, и все же мы можем им в значительной степени доверять, даже давая им силу жизни и смерти над собой. Солдаты доверяют своим товарищам в сложных, враждебных условиях; пациент доверяет своему хирургу, чтобы вырезать опухоль; и в более мирском жиле моя жена верит, что я благополучно еду. Это межличностное доверие позволяет нам охватить сюрпризы, поэтому, возможно, мы могли бы создать нечто вроде межличностного доверия к самозанятым автомобилям?

В общем, межличностное доверие требует понимания того, почему кто-то действовал определенным образом, даже если вы не можете предсказать точное решение. Моя жена может не знать точно, как я буду ездить, но она знает, какие рассуждения я использую, когда я еду. И на самом деле относительно легко понять, почему кто-то что-то делает, именно потому, что мы все одинаково рассуждаем и рассуждаем, хотя и с разными «сырыми ингредиентами» - нашими убеждениями, желаниями и переживаниями.

Фактически, мы постоянно и бессознательно делаем выводы о чужих убеждениях и желаниях, основанных на их действиях, в значительной степени, предполагая, что они думают, рассуждают и решают примерно так же, как и мы. Все эти выводы и рассуждения, основанные на нашем общем (человеческом) познании, позволяют нам понять чужие причины и тем самым строить межличностное доверие во времени.

Думаете, как люди?

Автономные технологии - самостоятельные автомобили, в частности - не думают и не решают, как люди. Были предприняты усилия, мимо и последний, развивать компьютерные системы, которые думают и рассуждают как люди. Тем не менее, одной последовательной темой машинного обучения за последние два десятилетия были огромные успехи, достигнутые именно в том, что мы не требовали, чтобы наши системы искусственного интеллекта действовали по-человечески. Вместо этого алгоритмы машинного обучения и системы, такие как AlphaGo, часто могли превосходят человеческих экспертов сосредоточив внимание на конкретных локализованных проблемах, а затем решив их совершенно иначе, чем люди.

В результате попытки интерпретировать автономную технологию с точки зрения человеческих убеждений и желаний могут оказаться впечатляюще ужасными. Когда водитель-водитель видит мяч в дороге, большинство из нас автоматически замедляется значительно, чтобы не ударить ребенка, который может преследовать его. Если мы едем на автостоянке и видим на рулевом колесе на улицу, мы ожидаем, что автомобиль узнает его и будет готов прекратить бегать за детьми. Однако автомобиль может видеть только препятствие, которого следует избегать. Если он вращается без замедления, люди на борту могут быть встревожены - и ребенок может оказаться в опасности.

Наши выводы о «верованиях» и «желаниях» самозанятого автомобиля почти наверняка будут ошибочными важными способами, именно потому, что автомобиль не имеет никаких человеческих убеждений или желаний. Мы не можем развивать межличностное доверие к самозанятому автомобилю, просто наблюдая за его движением, так как мы не будем правильно выставлять whys за его действия.

Разумеется, клиенты общества или рынка могли бы в массовом порядке настаивать на том, что автомобили с самообслуживанием имеют человекоподобные (психологические) черты, именно поэтому мы могли понимать и развивать в них межличностное доверие. Эта стратегия придаст совершенно новый смысл "ориентированный на человека дизайн, «Поскольку системы будут разработаны специально, чтобы их действия интерпретировались людьми. Но это также потребует, в том числе и роман алгоритмы и методы в самоходном автомобиле, все из которых будут представлять собой массовое изменение нынешних стратегий исследований и разработок для самостоятельных автомобилей и других автономных технологий.

Самостоятельные автомобили имеют потенциал, чтобы радикально изменить нашу транспортную инфраструктуру многими полезными способами, но только если мы можем доверять им достаточно, чтобы фактически их использовать. Ирония заключается в том, что самая важная особенность, которая делает самоходные автомобили ценными - их гибкое, автономное принятие решений в разных ситуациях - именно то, что затрудняет их доверие.

authirhere

Дэвид Данкс, профессор философии и психологии, Университет Карнеги-Меллона

Эта статья изначально была опубликована в Беседа, Прочтите оригинал статьи.

Похожие книги:

at Внутренний рынок самовыражения и Amazon