ООН призывает запретить полностью автономные дроны и боевых роботов до их разработки

Отчет Human Rights Watch и Гарвардской школы права призывает ООН создать международный договор, который может запретить так называемых “боевых роботов” до их разработки.

Волонтеры Human Rights Watch и Гарвардской школы права совместно работали над написанием отчета под названием “Mind the Gap”, который дает подробности о том, как полностью автономное оружие не имеет регулирования и может стать причиной человеческих жертв без какой-либо ответственности. На основании этого отчета группа сейчас оказывает давление на ООН, чтобы запретить разработку любого такого полностью автономного оружия, которое может причинить вред людям в отсутствие операторов. Хотя полностью автономное оружие все еще находится на стадии разработки, Human Rights Watch и Гарвардская школа права рекомендовали ООН разработать строгие международные законы, которые не только запретят разработку, производство и использование полностью автономного оружия, но и юридически обяжут другие страны не создавать такое оружие.

Искусственный интеллект берет свое, и производители в полной мере используют технологии для создания автономных дронов и транспортных средств, включая полностью автономный автомобиль от Google, компанию Parrot, занимающуюся созданием хобби-дронов для своих потребителей, а также проект Amazon Prime Air, который будет доставлять посылки клиентов с помощью беспилотного летательного аппарата, однако все это все еще находится на стадии разработки. Хотя регуляторы работают над тем, чтобы получить одобрение лицензий для этих автономных коммерческих транспортных средств, волонтеры Human Rights Watch и Гарвардской школы права призывают власти установить законы, которые должны быть приняты до появления лицензий на производство таких автономных “боевых роботов”. Недавно FAA (Федеральное управление гражданской авиации) ввело ограничения на коммерческое использование автономных дронов.

The Guardian недавно сообщила о “Mind the Gap”, совместном отчете, подготовленном Human Rights Watch и Гарвардской школой права. В отчете утверждается, что действующее законодательство позволяет производителям, программистам и военным легко избежать ответственности в случае любых смертей на полях боя из-за автономного оружия. В отчете также подчеркивается, что поскольку нет надлежащей юридической базы для этих автономных дронов и оружия во время их производства и утилизации, трудно привлечь кого-либо к ответственности в случае ошибки. В отчете также указывается, что поскольку нет человека, назначенного для полностью автономного оружия, существует вероятность того, что это оружие может быть ошибочно нацелено на гражданских лиц, а не на военных. В отчете также говорится: “Полностью автономное оружие еще не существует, но технологии движутся в этом направлении, и предшественники уже используются или находятся в разработке. Например, многие страны используют системы оборонительного оружия — такие как израильский Железный купол и американский Phalanx и C-RAM — которые запрограммированы на автоматический ответ на угрозы отIncoming munitions. Кроме того, существуют прототипы самолетов, которые могут автономно выполнять межконтинентальные миссии (UK Taranis) или взлетать и приземляться на авианосце (US X-47B).” Далее в отчете говорится: “Существующие механизмы юридической ответственности плохо подходят и недостаточны для решения незаконных вредов, которые могут причинить полностью автономные оружия. Эти оружия имеют потенциал совершать преступные действия — незаконные действия, которые будут считаться преступлением, если они будут совершены с намерением — за которые никто не сможет быть привлечен к ответственности. Полностью автономное оружие само по себе не может быть признано ответственным за преступные действия, которые оно может совершить, потому что у него не будет намерения.”

В отчете добавляется, что в текущих военных сценариях автоматизированное оружие и дроны, используемые военнослужащими, имеют некоторого человеческого оператора, который принимает решение о нажатии на спусковой крючок, и поэтому за любое неправильное использование автоматизированного оружия он будет нести ответственность. Однако в случае полностью автоматизированного оружия будет трудно привлечь кого-либо к ответственности в случае неправильного использования оружия и дрона. Более того, в случае любой ошибки возникнет большой вопрос о том, кто будет нести ответственность. Полное доверие машине означало бы отсутствие значимого человеческого контроля при выборе и взаимодействии с целями.

В отчете также даны некоторые альтернативные предложения, в которых говорится, что за любую ошибку или небрежность должен нести ответственность какой-либо командир или программист. Это наложит гражданскую ответственность на данного конкретного сотрудника или программиста и, таким образом, поможет предоставить компенсацию, какое-то решение и чувство справедливости пострадавшим жертвам. В отчете также добавляется: “Отсутствие значимого человеческого контроля ставит полностью автономное оружие в неопределенное и тревожное положение. С одной стороны, в то время как традиционное оружие является инструментом в руках человека, полностью автономное оружие, однажды развернутое, будет самостоятельно принимать решения о применении смертоносной силы. Таким образом, они будут бросать вызов устоявшимся представлениям о роли оружия в вооруженном конфликте, и для некоторых юридических анализов они будут более похожи на человеческого солдата, чем на неодушевленное оружие. С другой стороны, полностью автономные оружия будут далеки от человеческого.”

Встреча международных чиновников ООН состоится в конце этого месяца в Женеве для обсуждения регулирования новых военных технологий. Похоже, что отчет был выпущен заранее, чтобы чиновники могли ознакомиться с ним и предложить свои рекомендации по этому вопросу.