UN은 완전 자율 드론과 킬러 로봇의 개발이 이루어지기 전에 금지할 것을 촉구받고 있다

휴먼 라이츠 워치와 하버드 로스쿨의 보고서는 유엔에 “킬러 로봇”이라고 불리는 무기들이 개발되기 전에 금지할 수 있는 국제 조약을 만들 것을 촉구하고 있다.

휴먼 라이츠 워치와 하버드 로스쿨의 자원봉사자들은 “Mind the Gap”이라는 보고서를 작성하기 위해 함께 작업했으며, 이 보고서는 완전 자율 무기가 규제가 부족하고 운영자가 없는 상태에서 인간의 죽음을 초래할 수 있는 원인이 될 수 있음을 자세히 설명하고 있다. 이 보고서를 바탕으로 그룹은 유엔에 그러한 완전 자율 무기의 개발을 금지할 것을 압박하고 있다. 완전 자율 무기는 아직 개발 단계에 있지만, 휴먼 라이츠 워치와 하버드 로스쿨은 유엔에 완전 자율 무기의 개발, 생산 및 사용을 금지할 뿐만 아니라 다른 국가들이 그러한 무기를 만드는 것을 법적으로 구속하는 엄격한 국제 법률을 제정할 것을 권고하고 있다.

인공지능이 그 영향을 미치고 있으며, 제조업체들은 완전 자율 자동차, 소비자를 위한 취미 드론을 만드는 회사인 파롯, 고객의 패키지를 무장하지 않은 항공기로 배달하는 아마존의 프라임 에어 프로젝트를 포함한 자율 드론 및 차량을 만들기 위해 기술을 최대한 활용하고 있다. 그러나 이 모든 것은 여전히 개발 단계에 있다. 규제 당국이 이러한 자율 상업 차량의 라이센스를 승인받기 위한 방법을 모색하고 있지만, 휴먼 라이츠 워치와 하버드 로스쿨의 자원봉사자들은 그러한 자율 “킬러 로봇”을 제조하기 위한 라이센스가 부여되기 전에 법률을 제정할 것을 당국에 촉구하고 있다. 최근 FAA(연방 항공국)는 자율 드론의 상업적 사용에 대한 제한을 부과했다.

가디언은 최근 휴먼 라이츠 워치와 하버드 로스쿨이 공동으로 발표한 “Mind the Gap”에 대한 보고서를 보도했다. 이 보고서는 현재 법률, 제조업체, 프로그래머 및 군 관계자들이 자율 무기로 인해 전장에서 발생하는 사망 사건에 대해 쉽게 책임을 회피할 수 있다고 주장하고 있다. 보고서는 또한 유엔 당국에 주목할 점은 자율 드론과 무기의 제조 및 폐기 과정에서 적절한 법적 기초가 마련되지 않았기 때문에 오류가 발생할 경우 누구에게 책임을 물을 수 있는지가 어렵다는 점이다. 보고서는 또한 완전 자율 무기에 인간이 배정되지 않았기 때문에 이러한 무기가 군대가 아닌 민간인을 잘못 겨냥할 가능성이 있다고 명시하고 있다. 보고서는 다음과 같이 언급하고 있다: “완전 자율 무기는 아직 존재하지 않지만, 기술은 그 방향으로 나아가고 있으며, 선행 기술은 이미 사용 중이거나 개발 중이다. 예를 들어, 많은 국가들이 이스라엘의 아이언 돔 및 미국의 팔랑크스와 C-RAM과 같은 무기 방어 시스템을 사용하고 있으며, 이는 들어오는 탄약의 위협에 자동으로 반응하도록 프로그래밍되어 있다. 또한, 대륙간 임무를 자율적으로 비행할 수 있는 비행기(영국 타라니스)나 항공모함에서 이착륙할 수 있는 비행기(미국 X-47B)의 프로토타입도 존재한다.” 보고서는 또한 다음과 같이 덧붙인다: “법적 책임을 위한 기존 메커니즘은 완전 자율 무기가 초래할 수 있는 불법적 피해를 다루기에 적합하지 않으며 불충분하다. 이러한 무기는 범죄 행위를 저지를 잠재력을 가지고 있으며, 고의로 행해질 경우 범죄로 간주될 수 있는 불법 행위를 저지를 수 있지만, 누구도 책임을 지울 수 없다. 완전 자율 무기 자체는 고의성이 결여되어 있기 때문에 저지를 수 있는 범죄 행위에 대해 책임을 물을 수 없다.”

보고서는 현재 전쟁 시나리오에서 군 관계자들이 사용하는 자동화된 무기와 드론에는 트리거를 당기는 결정을 내리는 인간 운영자가 있으며, 따라서 자동화된 무기의 오용에 대해서는 그가 책임을 지게 된다. 그러나 완전 자동화된 무기의 경우, 무기와 드론의 오용이 발생할 경우 누군가를 잡아내기 어려울 것이다. 또한, 어떤 오류로 인해 실수가 발생할 경우, 누가 책임을 질 것인지에 대한 큰 질문이 제기될 것이다. 기계에 완전한 제어를 부여하는 것은 목표를 선택하고 참여하는 데 있어 의미 있는 인간의 통제가 부족함을 의미할 것이다.

보고서는 또한 대안 제안을 제시하고 있으며, 어떤 지휘관이나 프로그래머가 오류나 과실에 대해 책임을 져야 한다고 언급하고 있다. 이는 해당 인원이나 프로그래머에게 민사 책임을 부과하게 되어 피해자에게 보상, 판결 및 정의의 감각을 제공하는 데 도움이 될 것이다. 보고서는 다음과 같이 덧붙인다: “의미 있는 인간의 통제 부족은 완전 자율 무기를 모호하고 걱정스러운 위치에 놓이게 한다. 한편으로는 전통적인 무기가 인간의 손에 도구로 존재하는 반면, 완전 자율 무기는 배치되면 치명적인 힘의 사용에 대한 결정을 스스로 내리게 된다. 따라서 이들은 무장 충돌에서 무기의 역할에 대한 오랜 개념에 도전하게 되며, 일부 법적 분석에 따르면 이들은 무생물 무기보다 인간 군인에 더 가깝게 여겨질 것이다. 반면에 완전 자율 무기는 인간에 미치지 못할 것이다.”

유엔 국제 관계자들의 회의가 이달 말 제네바에서 열려 새로운 군사 기술의 규제에 대해 논의할 예정이다. 보고서는 관계자들이 검토하고 이에 대한 제안을 내놓기 위해 미리 발표된 것으로 보인다.