Поток изображения / Shutterstock

Не доволен мониторингом почти все, что вы делаете онлайнFacebook теперь хочет читать ваши мысли. Социальный гигант недавно объявил прорыв в его планах создать устройство, которое читает мозговые волны людей, чтобы позволить им печатать, просто думая. И Элон Маск хочет пойти еще дальше. Одна из других компаний босса Тесла, Neuralink, является разработка мозгового имплантата подключить умы людей непосредственно к компьютеру.

Мускус признает, что он берет вдохновение от научной фантастики, и что он хочет убедиться, что люди могут «Идти в ногу» с искусственным интеллектом, Кажется, он пропустил ту часть научной фантастики, которая служит предупреждением о последствиях технологии.

Эти системы чтения мыслей могут повлиять на нашу конфиденциальность, безопасность, идентичность, равенство и личную безопасность. Действительно ли мы хотим, чтобы все, что осталось, оставалось компаниям с такими философиями, как прежняя мантра Facebook, «двигаться быстро и ломать вещи»?

Хотя они кажутся футуристическими, технологии, необходимые для создания устройств для чтения мозговых волн, ничем не отличаются от стандартных инструментов МРТ (магнитно-резонансная томография) и ЭЭГ (электроэнцефалография), используемых в больницах по всему миру. Уже можно купить комплект для управления дроном с твоим разумомтак что использование одного для ввода слов, в некотором смысле, не такой уж большой скачок. Прогресс, вероятно, будет связан с использованием машинного обучения для просеивания огромного количества данных, собранных нашим мозгом, и для определения моделей активности нейронов, которые связывают мысли с конкретными словами.

Мозговой имплантат, вероятно, займет гораздо больше времени для разработки, и важно выделить фактические достижения Neuralink от рекламы и рекламы. Но Neuralink сделал одновременные улучшения в материалах для электродов и роботизированной хирургии, чтобы имплантировать их, аккуратно упаковав технологию, чтобы ее можно было прочитать через USB.

{vembed Y = kPGa_FuGPIc}

Планы Facebook и Neuralink могут основываться на устоявшейся медицинской практике. Но когда компании собирают мысли прямо из нашего мозга, этические проблемы очень разные.

Любая система, которая может собирать данные непосредственно из нашего мозга, имеет явные риски для конфиденциальности. Конфиденциальность о согласии. Но очень трудно дать правильное согласие, если кто-то напрямую касается наших мыслей. Компании Силиконовой долины (и правительства) уже тайно собраться столько данных о нас, сколько они могут, и использовать их так, как мы скорее они этого не сделали, Насколько мы можем быть уверены, что наши случайные и личные мысли не будут захвачены и изучены вместе с инструкциями, которые мы хотим дать технологии?

Дискриминация и манипулирование

Одна из существующих этических проблем со сбором данных это дискриминация на основе таких атрибутов, как пол или раса, которые можно определить по данным. Предоставление окна в умы людей может облегчить определение других вещей, которые могут составлять основу предубеждений, таких как сексуальность или политическая идеология, или даже различные способы мышления, которые могут включать такие вещи, как аутизм.

С системой, которая подключается непосредственно к вашему мозгу, вы можете не только украсть ваши мысли, но также возможно, что ими можно будет манипулировать. Стимуляция мозга уже разрабатывается, чтобы помочь лечить ПТСР и уменьшить насилие, Есть даже сенсационные заявления, что его можно использовать для загрузить знания напрямую как в фильме «Матрица».

Предсказуемым шагом было бы объединение технологий «в» и «вне» для двустороннего интерфейса мозг-компьютер. Возможность того, что правительства сделают нас более податливыми, работодателей заставят нас работать усерднее или компаний заставят нас хотеть больше их продуктов, подчеркивает, насколько серьезно мы должны относиться к этой технологии.

Прототип устройства для чтения мозгов в Facebook. Facebook

Если устройства для чтения мыслей станут обычным способом взаимодействия с компьютерами, у нас может не быть иного выбора, кроме как использовать их, чтобы не отставать от более продуктивных коллег. (Представьте себе, что кто-то сегодня подает заявку на работу в офисе, но отказывается от использования электронной почты.) И если имплантаты в стиле Neuralink станут нормой, это также может привести к еще большему неравенству, определяемому тем, какой уровень комплекта вы можете себе позволить установить.

Elon Musk заявила что огромный кредит, необходимый для проведения операции Neuralink, будет компенсирован потенциальным заработком для «улучшенных». Мысль о том, что люди чувствуют себя вынужденными брать на себя огромные долги, чтобы сделать операцию, просто чтобы сохранить свою работу, исходит прямо из научной фантастической дистопии.

Вдобавок ко всему, это более прямая физическая угроза того, что системы будут физически вторгаться в наш мозг. Хотя некоторые люди могут захотеть изменить свой мозг с помощью компьютерного интерфейса ( экспериментальные биохакеры), чтобы развернуть это в больших масштабах, потребуются массивные и тщательные испытания.

Учитывая репутацию (и склонность) Кремниевой долины к тому, чтобы ломать вещи, а не останавливаться, чтобы их обдумать, эти системы потребуют строгого регулирования и этического пересмотра до начала тестирования, В противном случае это может привести к созданию изуродованных морских свинок человека.

Несмотря на все это, могут быть огромные преимущества для продолжения исследований в этой области, особенно для тех, кто страдает от паралича или сенсорных нарушений. Но Силиконовая долина не должна быть в состоянии диктовать, как эти технологии развиваются и используются. Если они это сделают, это может радикально изменить способ, которым мы идентифицируем себя как человека.

Об авторе

Гарфилд Бенджамин, научный сотрудник, Школа медиаискусства и технологий, Университет Солента

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.