Должны ли роботы иметь право убивать людей?

Должны ли убийственные роботы иметь право убивать людей, спрашивает Организация Объединенных Наций!

Технология сделала большой шаг вперед, и военное оружие доверено действовать автономно, однако готовы ли мы передать решение о том, чтобы убивать человеческие жизни в руки этих «Убийственных Роботов» — все еще большой вопрос!!

13 апреля в Женеве состоялась встреча экспертов в области робототехники в рамках CCW (Конвенция о обычных видах оружия), чтобы обсудить будущее «Систем Летального Автономного Оружия» (LAWS) или «Убийственных Роботов».

Похожая встреча проходила еще в мае 2014 года, когда тогдашний исполняющий обязанности Генерального директора ООН в Женеве, Майкл Мёллер, сказал: «Слишком часто международное право реагирует на зверства и страдания только после того, как это произошло». Таким образом, встреча, состоявшаяся на этой неделе, была второй подобной, когда эксперты CCW собрались, чтобы обсудить различные летальные технологии, которые появляются, а также чтобы получить представление о этих технологиях, прежде чем они будут использованы государствами.

Слово кибербезопасность вызывает перед нашими глазами образы виртуальных сетей и компьютеров, а также способы, которыми программное обеспечение может быть использовано для разрушения. Однако концепция кибербезопасности в основном ограничивалась только компьютерами. Сегодня программное обеспечение достигло даже военного оружия, и оно используется различными государствами для создания основной военной техники. С учетом того, что технологии сделали огромный шаг вперед, день, когда оружие станет полностью автономным, не за горами, и единственный вопрос, на который еще предстоит ответить, — готовы ли мы передать решение о том, чтобы убивать людей, полностью в руки автономного оружия! Автономное оружие, которое уже используется сегодня, требует, чтобы был человек, который отдает команду убить людей, следовательно, решение здесь все еще остается в руках оператора, который отдает команду, однако в случае полностью автономного оружия все еще остается вопрос, кого мы должны винить, если ИИ решит убить людей без причины?

В своем вступительном брифинге Джоди Уильямс, лауреат Нобелевской премии мира и соучредитель «Кампании по остановке убийственных роботов», четко отметила, что «у нас все еще есть время сказать НЕТ». Уильямс также отметила: «Это решение, которое мы, как люди, можем принять. Это решение, которое мы должны принять. Мы не должны передавать власть жизни и смерти над другими людьми автономным машинам, которые мы сами создали. Еще не поздно.»

В 2013 году некоторые вопросы, возникающие из концепции «Убийственных Роботов», были четко поставлены Генеральным секретарем ООН Бан Ки-муном, что упоминается в следующих строках: «Морально ли приемлемо делегировать решения о применении летальной силы таким системам? Если их использование приводит к военному преступлению или серьезному нарушению прав человека, кто будет нести юридическую ответственность? Если ответственность не может быть определена, как требует международное право, законно ли или этично развертывать такие системы?»

По сути, «Кампания по остановке убийственных роботов» на самом деле призывает к «Предупредительному запрету» на LAWS, однако кажется, что ООН просто обсуждает летальное оружие, и никаких дальнейших действий в настоящее время не будет предпринято. На самом деле предупредительный запрет может быть введен только после взаимного согласия всех государств-членов, которые единогласно поддержат запрет на убийственных роботов. И если ООН удастся получить большинство поддержки для запрета убийственных роботов, это будет означать, что LAWS будут запрещены даже до того, как они станут реальностью. Однако это не будет первым случаем, когда ООН запретит что-то до того, как это станет реальностью; аналогичное решение было принято ООН в 1995 году, когда «Протокол о слепящих лазерных оружиях» был запрещен ООН, потому что он предполагался как чрезмерно вредный или имеющий недискриминационные последствия.

В последние несколько месяцев многие люди обсуждали потенциальную угрозу Искусственного Интеллекта для человечества. Стэнфордский университет сделал шаг вперед и работает над «100-летним исследованием влияния Искусственного Интеллекта AI100», по сути, это исследование составляет фактические последствия ИИ для каждого аспекта человеческой жизни.

С другой стороны, многие эксперты в области компьютерных наук и ИИ подписали «Открытое письмо», в котором добавляются детали исследований, которые находятся в процессе, чтобы проверить преимущества ИИ для человеческой расы.

Со всеми обсуждениями, которые ведутся о «Убийственном Роботе», Франция и Великобритания, похоже, четко заявляют, что они не будут преследовать такие автономные оружия. Однако Израиль и США все еще оставляют двери открытыми для будущего приобретения этих оружий. На самом деле ни одно из государств, похоже, не готово на данный момент к предупредительному запрету LAWS.

Что наши читатели думают об этом решении: следует ли вводить ИИ в военное оружие, создавая виртуальных Убийственных Роботов, которые могут когда-нибудь попытаться думать умнее людей и начать убивать людей, чтобы защитить свои собственные клоны «ИИ Убийственные Роботы»…… подумайте об этом!!