Искусственный интеллект (ИИ) представляет собой экзистенциальную угрозу для человечества, утверждают исследователи Оксфордского университета

Машины уничтожат людей в будущем, как показано в фильмах Терминатор

Фантастика — это плод богатого воображения, но кажется, что фантастика может стать реальностью когда-нибудь. В серии фильмов Терминатор с Арнольдом Шварценеггером изображено, что машины или Искусственный Интеллект (ИИ) уничтожат человеческую расу в каком-то непредвиденном будущем. Что ж, исследователи Оксфорда считают, что это действительно может произойти.

Команда исследователей из Оксфордского университета составила список причин, которые, по их мнению, представляют экзистенциальную угрозу для всей “человеческой расы” и считают, что ИИ обладает максимальным потенциалом для уничтожения человеческой расы.

Недавний отчет, представленный исследователями Оксфордского университета, указывает на 12 основных рисков, угрожающих окончанию человеческой цивилизации.

Эти причины можно объединить в следующие 4 категории:

• a) Текущие риски, которые включают экстремальные и неопределенные климатические условия, ядерную войну, катастрофическую экологическую ситуацию и глобальную пандемию и системный коллапс из-за разрушительных болезней;
• b) Внешние риски (экзогенные), такие как супервулканы и удары астероидов;
• c) Появляющиеся риски (созданные человеком), включая синтетическую биологию, нанотехнологии, Искусственный Интеллект и другие, которые еще предстоит объявить, т.е. неопределенные риски;
• d) Глобальный риск политики, что означает общую плохую глобальную управляемость.

Авторы Деннис Памлин и доктор Стюарт Армстронг четко указали на эти риски и также предложили 10 возможных решений для уменьшения воздействия этих рисков.

Хотя все 12 рисков представляют собой бесконечные угрозы для человеческой расы, категория Появляющихся рисков является опасной. “Искусственный Интеллект” (ИИ) кажется обладающим огромным потенциалом для преднамеренной работы над уничтожением человеческой расы. Хотя синтетическая биология и нанотехнологии вместе с ИИ могут быть возможным ответом на многие существующие проблемы, однако, если их использовать неправильно, это может стать худшим инструментом против человечества.

Термин “Искусственный Интеллект” (ИИ) был введен Джоном Маккарти в 1955 году, что означает создание “суперумного программного обеспечения” или машины, которая является комбинацией науки и инженерии таким образом, что машина будет действовать и мыслить как человек или даже больше.

Илон Маск, который является генеральным директором Tesla Motors и SpaceX и соучредителем PayPal, неоднократно предупреждал о угрозах ИИ. Маск называет ИИ “самой большой экзистенциальной угрозой для человечества”. В своем недавнем выступлении перед студентами Массачусетского технологического института (MIT) Маск сравнил ИИ с “демонами”. Он твердо верит, что если эти “суперумные компьютеры” начнут работать сами по себе, то они могут превратиться в неконтролируемых демонов.

В своем недавнем выступлении перед студентами MIT он отметил,

“Я думаю, что мы должны быть очень осторожны с искусственным интеллектом. Если бы мне пришлось угадать, что является нашей самой большой экзистенциальной угрозой, это, вероятно, так. Поэтому мы должны быть очень осторожны. Я все больше склоняюсь к мысли, что должно быть какое-то регулирование, возможно, на национальном и международном уровнях, просто чтобы убедиться, что мы не сделаем что-то очень глупое.”

Маск вместе с Марком Цукербергом из Facebook и голливудским актером Эштоном Катчером инвестировали в Vicarious, компанию, которая стремится создать умный интеллектуальный компьютер, который будет мыслить как человек! Маск говорит, что он инвестировал в эту компанию только для того, чтобы убедиться, что конечный продукт будет “хорошим суперумным компьютером”, а не каким-то “катастрофическим монстром”.

Таким образом, помимо Маска и исследователей Оксфордского университета, Стивен Хокинг (который уже создал “синтезатор речи” на основе ИИ и является известным физиком) считает, что ИИ действительно имеет потенциал эволюционировать в жизненно угрожающие агенты для человеческой расы.

На данный момент Эрик Хорвитц, компьютерный ученый, вместе с Рассом Альтманом, профессором биоинженерии и компьютерных наук в Стэнфорде, совместно разработали идею создания комитета под названием “AI100”, основной целью которого является пристальное наблюдение за различными разработками ИИ и его общим влиянием на человеческую расу.

Человеческий интеллект, безусловно, может создать “суперумные машины”, однако можем ли мы контролировать “мышление” этих ИИ? Время покажет, если мы существуем или будем уничтожены!