Этот робот может намеренно причинять вред людям и заставлять их кровоточить

Skynet Redux : Этот робот причиняет вред людям намеренно и заставляет их кровоточить

Многие защитники ИИ и робототехники основывают свою поддержку ИИ на Первом законе робототехники Азимова.

Первый закон робототехники Азимова очень ясен: Роботы не могут причинять вред людям.

Предсказатели конца света, включая Илона Маска из Tesla, давно предсказывают доминирование ИИ в стиле Терминатора, но защитники и сторонники робототехники всегда полагались на первый закон робототехники Азимова, чтобы защищать инновации в ИИ и робототехнике.

Хотя определенно существует довольно много крупных роботов, часто используемых в производстве, которые можно было бы считать опасными, робототехники в значительной степени пренебрегли этим правилом.

Гигант научной фантастики Айзек Азимов, который сформулировал «закон» в своем рассказе 1942 года «Пробежка», был одним из трех правил, второе из которых гласит: «Робот должен подчиняться приказам, данным ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону».

Безусловно, несчастные случаи с участием роботов происходят, например, когда кто-то слишком близко подходит к промышленному роботу.

Тем не менее, теперь мужчина из Беркли, Калифорния, хочет начать здоровый разговор среди этиков, философов, юристов и других о том, куда движется технология и какие опасности роботы представят цивилизации в будущем. Александр Ребен, робототехник и художник, разработал настольного робота, единственной механической целью которого является причинение вреда людям. Ребен надеется, что его Франкенштейн заставит людей говорить.

Прежде чем вы заблокируете свои двери и окна, давайте определим термины: Вред, причиняемый роботом Ребена, не более чем укол, хотя и доставленный на высокой скорости, вызывая максимальное количество боли, которое может причинить маленькая игла на кончике пальца.

И забавно, он спроектировал машину так, чтобы травма причинялась несистематически. Время от времени робот наносит удар. Время от времени — нет. Даже Ребен, когда он подвергает свой кончик пальца опасности, не имеет представления, будет ли он в итоге кровоточить или нет.

В огромной комнате на верхнем этаже красивого викторианского особняка, где Ребен живет и работает как член Stochastic Labs, инкубатора искусств, технологий и научных мероприятий в Беркли, он утверждает: «Никто на самом деле не создавал робота, который был бы построен для намеренного причинения вреда и травмирования кого-либо. Я хотел создать робота, который делает это и действительно существует… Это было важно, чтобы вывести его из области мысленного эксперимента в реальность, потому что как только что-то существует в мире, с этим нужно столкнуться. Это становится более срочным. Нельзя просто рассуждать об этом».

Кейт Дарлинг, исследователь в MIT Media Lab, изучающая «ближайшее социальное воздействие робототехнической технологии», когда ее спросили о ее мнении об эксперименте, сказала, что ей это нравится, в первую очередь потому, что это включает роботов. «Я не хочу совать туда свою руку», — добавляет она.

Ребен, возможно, наиболее известен как создатель BlabDroid, маленького, безобидного на вид робота, который каким-то образом побуждает людей, с которыми он сталкивается, рассказывать ему истории о своей жизни. На протяжении многих лет его работа была сосредоточена на отношениях людей с технологиями и на том, как эта технология может помочь нам понять наше человечество.

Он прекрасно осознает, что люди все больше боятся роботов — либо потому, что они представляют собой какую-то теоретическую физическую опасность для нас, либо потому, что многие считают, что они движутся к замене нас. Общие фразы в наши дни: «Роботы собираются захватить мир» или «Роботы заберут наши рабочие места».

Ребен хочет заставить людей противостоять вопросу о том, как справляться с опасностями от роботов задолго до того, как они действительно произойдут. Обычно такая работа могла бы ложиться на академиков, но Ребен считает, что ни одно исследовательское учреждение не сможет разработать робота, который действительно причиняет вред людям. Точно так же ни одна компания не собирается создавать такой робот, потому что, по его мнению, «вы не хотите, чтобы вас знали как первую компанию, которая создала робота для намеренного причинения боли».

«С учетом все более автономной технологии, возможно, имеет больше смысла рассматривать роботов как аналогичных животным, поведение которых мы тоже не всегда можем предсказать».

Он говорит, что лучше оставить такие вещи миру искусства, где «люди имеют открытые умы».

Возможно, не будет много возмущения, учитывая, что его робот не отрывает людям руки или не раздавливает никого на мелкие кусочки, по крайней мере, не такого типа, который мог бы привести к серьезному вреду.

Ребен надеется, что люди из таких различных областей, как право, философия, инженерия и этика, обратят внимание на то, что он создал. «Эти междисциплинарные люди должны собраться вместе», — говорит Ребен, «чтобы решить некоторые из этих проблем, которые никто из них не может полностью осознать или решить».

Он представляет, что юристы будут обсуждать проблемы ответственности, связанные с роботом, который может причинить вред людям, в то время как этики будут размышлять, допустимо ли вообще думать о таком эксперименте. Философы будут размышлять, почему такой робот существует.

Тем не менее, есть основание полагать, что законы Азимова все равно никогда бы не защитили нас.

В 2014 году Бен Гертцель, теоретик ИИ и главный научный сотрудник финансовой прогнозной компании Aidyia Holdings, сказал io9, что «Суть Трех законов заключалась в том, чтобы терпеть неудачи интересным образом; именно это делало большинство историй с их участием интересными. Таким образом, Три закона были поучительными с точки зрения обучения нас тому, как любая попытка законодательного регулирования этики в терминах конкретных правил обречена на провал и имеет различные лазейки».

Эксперимент или нет, Дарлинг утверждает, что Ребен несет этическую ответственность за любой вред, причиненный его роботом, поскольку он тот, кто его спроектировал.

«Мы можем постепенно дистанцироваться от этической ответственности за вред, когда имеем дело с автономными роботами», — говорит Дарлинг. «Конечно, правовая система все еще назначает ответственность… но чем дальше мы уходим от возможности предсказать поведение робота, тем менее «намеренным» становится вред».

По мере улучшения технологий нам, возможно, придется пересмотреть наш взгляд на машины, считает она.

«С точки зрения ответственности», — говорит Дарлинг, — «роботы будут больше, чем просто инструменты, которые мы используем как продолжение самих себя. С учетом все более автономной технологии, возможно, имеет больше смысла рассматривать роботов как аналогичных животным, поведение которых мы тоже не всегда можем предсказать».

Тем не менее, для Ребена он просто надеется, что по мере развития автономных технологий люди перестанут прятать голову в песок.

«Я хочу, чтобы люди начали сталкиваться с физической реальностью этого», — говорит Ребен. «Это повысит немного больше осведомленности вне философской области».

«Всегда будут ситуации, когда произойдет непредвиденное, и то, как с этим справляться, будет важной темой для размышлений».

Fast Company.