로봇이 인간을 죽이는 것이 허용되어야 할까?

유엔이 묻습니다: 킬러 로봇이 인간을 죽이는 것이 허용되어야 할까요?

기술은 큰 도약을 이루었고 군사 무기는 자율적으로 작동할 수 있도록 신뢰받고 있지만, 이러한 ‘킬러 로봇’에게 인간의 생명을 죽일 결정을 맡기는 것이 준비가 되었는지는 여전히 큰 질문입니다!!

4월 13일, 제네바에서 열린 CCW(전통무기협약) 회의에서 로봇 전문가들이 ‘치명적인 자율 무기 시스템’(LAWS) 또는 ‘킬러 로봇’의 미래에 대해 논의했습니다.

2014년 5월, 당시 제네바 유엔 사무소의 사무총장 대행인 마이클 뫼러는 “국제법은 종종 끔찍한 사건과 고통이 발생한 후에만 반응한다”고 말했습니다. 따라서 이번 주에 열린 회의는 CCW 전문가들이 다양한 치명적인 기술에 대해 논의하고, 국가들이 이러한 기술을 사용하기 전에 이를 파악하기 위한 두 번째 회의였습니다.

사이버 보안이라는 단어는 우리의 눈앞에 가상 네트워크와 컴퓨터의 이미지를 떠올리게 하며 소프트웨어가 파괴에 어떻게 사용될 수 있는지를 보여줍니다. 그러나 사이버 보안의 개념은 일반적으로 컴퓨터에만 국한되어 왔습니다. 오늘날 소프트웨어는 군사 무기에도 도달했으며, 여러 국가에서 주요 전쟁 기계를 구축하기 위해 소프트웨어를 배포하고 있습니다. 기술이 큰 도약을 이루면서 무기가 완전히 자율적으로 만들어지는 날이 멀지 않았습니다. 여기서 유일한 질문은 우리가 자율 킬러 무기에게 인간을 죽이는 결정을 완전히 맡길 준비가 되었는가입니다! 현재 사용되고 있는 자율 무기는 인간을 죽이라는 명령을 내리는 사람이 필요하므로, 여기서 결정은 여전히 명령을 내리는 운영자의 손에 있습니다. 그러나 완전히 자율적인 무기에서는 AI가 이유 없이 인간을 죽이기로 결정할 경우 누가 책임을 져야 하는지 여전히 질문입니다.

개막 브리핑에서 노벨 평화상 수상자이자 “킬러 로봇을 멈추기 위한 캠페인”의 공동 창립자인 조디 윌리엄스는 “아직 NO라고 말할 시간이 있다”고 분명히 언급했습니다. 윌리엄스는 “이것은 우리가 인간으로서 내릴 수 있는 결정이다. 우리는 반드시 내릴 결정을 해야 한다. 우리는 다른 인간의 생사에 대한 권력을 우리가 설계한 자율 기계에 양도해서는 안 된다. 아직 늦지 않았다”고 덧붙였습니다.

2013년, “킬러 로봇”의 개념에서 발생하는 특정 질문들이 유엔 사무총장 반기문에 의해 명확히 제기되었습니다. 아래의 문장에서 언급된 바와 같습니다: “치명적인 힘의 사용에 대한 결정을 이러한 시스템에 위임하는 것이 도덕적으로 허용되는가? 그 사용이 전쟁 범죄나 심각한 인권 침해를 초래할 경우, 누가 법적으로 책임을 질 것인가? 국제법에서 요구하는 대로 책임을 결정할 수 없다면, 이러한 시스템을 배치하는 것이 합법적이거나 윤리적인가?”

기본적으로 “킬러 로봇을 멈추기 위한 캠페인”은 LAWS에 대한 “사전 금지”를 요구하고 있지만, 유엔은 단지 치명적인 무기에 대해 논의하고 있을 뿐 현재로서는 추가 조치를 취할 계획이 없는 것 같습니다. 실제로 예방적 금지는 킬러 로봇을 금지하는 데 일방적으로 지지할 모든 회원국 간의 상호 합의가 이루어진 후에만 존재할 수 있습니다. 만약 유엔이 킬러 로봇 금지를 위한 다수의 지지를 얻는 데 성공한다면, 이는 LAWS가 현실이 되기 전에 금지된다는 것을 의미합니다. 그러나 이것은 유엔이 현실이 되기 전에 무언가를 금지하는 것이 처음이 아닙니다. 1995년 유엔은 “눈을 멀게 하는 레이저 무기 프로토콜”을 금지했는데, 이는 지나치게 해롭거나 무차별적인 영향을 미칠 것으로 예상되었기 때문입니다.

최근 몇 달 동안 많은 사람들이 인공지능이 인간에게 미칠 잠재적 위협에 대해 논의해왔습니다. 스탠포드 대학교는 한 걸음 더 나아가 “인공지능의 영향에 대한 100년 연구(AI100)”를 진행하고 있으며, 이 연구는 AI가 인간 생활의 모든 측면에 미치는 실제 영향을 구성합니다.

반면, 컴퓨터 과학 및 AI 분야의 많은 전문가들이 ‘오픈 레터’에 서명하여 진행 중인 연구의 세부 사항을 목록에 추가하여 AI가 인류에게 미치는 이점을 확인하고 있습니다.

‘킬러 로봇’에 대한 모든 논의가 진행되는 가운데, 프랑스와 영국은 자율 무기를 추구하지 않겠다는 입장을 분명히 하고 있습니다. 그러나 이스라엘과 미국은 이러한 무기의 미래 인수에 대한 문을 열어두고 있습니다. 사실, 현재로서는 어떤 국가도 LAWS에 대한 예방적 금지에 준비가 되어 있지 않은 것 같습니다.

독자 여러분은 이 결정에 대해 어떻게 생각하십니까? AI가 언젠가 인간보다 더 똑똑하게 생각하고 자신의 복제인간인 “AI 킬러 로봇”을 보호하기 위해 인간을 죽이기 시작하는 가상 킬러 로봇을 군사 무기에 도입해야 한다고 생각하십니까?……생각해 보세요!!