머스크, 호킹, 워즈니악, "군사 AI 무기 경쟁" 방지를 위한 자율 무기 및 군사 AI 금지 촉구

1,000명 이상의 과학 연구자와 기술 전문가들이 “군사 AI 무기 경쟁”을 방지하기 위해 세계 정부가 “공격적인 자율 무기” 개발을 금지할 것을 촉구하는 공개 서한에 서명했습니다.

이 서한은 내일 아르헨티나 부에노스아이레스에서 열리는 국제 인공지능 공동 회의(IJCAI)에서 발표될 예정이며, 테슬라의 일론 머스크, 애플 공동 창립자 스티브 워즈니악, 구글 딥마인드 CEO 데미스 하사비스, 노엄 촘스키, 스티븐 호킹 교수와 수십 명의 AI 및 로봇 연구자들이 서명했습니다.

서한에서는 다음과 같이 명시하고 있습니다: “AI 기술은 [자율 무기]의 배치가 법적으로가 아니라 실질적으로 수년 내에 가능할 정도로 도달했으며, 위험이 큽니다: 자율 무기는 화약과 핵무기에 이어 전쟁의 세 번째 혁명으로 묘사되었습니다.”

저자들은 AI가 군인들에게 전장을 더 안전한 장소로 만들 수 있지만, 스스로 작동하는 공격 무기는 전투에 나서는 문턱을 낮추고 인명 손실을 증가시킬 것이라고 주장합니다.

서한의 대부분은 차량과 단순 로봇이 스마트 자율 무기로 전환되는 것에 대한 우려를 담고 있습니다. 서한에 따르면, 순항 미사일과 원격 조종 드론은 “인간이 모든 타겟팅 결정을 내리기 때문에” 괜찮습니다. 그러나 인간의 간섭 없이 싸우고 죽일 수 있는 완전 자율 무기의 개발은 초기에 억제해야 한다고 합니다.

서한의 주요 주장은 다음과 같습니다:

인류에게 오늘날의 핵심 질문은 글로벌 AI 무기 경쟁을 시작할 것인지 아니면 이를 방지할 것인지입니다. 어떤 주요 군사 강국이 AI 무기 개발을 추진하면, 글로벌 무기 경쟁은 사실상 불가피하며, 이 기술적 궤도의 종착점은 분명합니다: 자율 무기는 내일의 칼라시니코프가 될 것입니다.

이후 서한은 화학/생물학 전쟁과 자율 무기 간의 강한 유사성을 그립니다:

대부분의 화학자와 생물학자가 화학 또는 생물학 무기를 만드는 데 관심이 없듯이, 대부분의 AI 연구자도 AI 무기를 만드는 데 관심이 없으며, 다른 사람들이 그렇게 하여 자신의 분야를 더럽히는 것을 원하지 않습니다. 이는 AI에 대한 대중의 반발을 초래하여 미래의 사회적 이점을 제한할 수 있습니다.

생명 미래 연구소는 IJCAI에서 서한을 발표할 예정입니다. 서한이 누구에게 전달되었는지에 대한 명확한 정보는 없으며, 회의에 참석할 연구자와 학자들 외에는 알 수 없습니다. 아마도 주요 군사 강국이 수행하는 자율 무기 연구에 눈을 감지 않도록 문제에 대한 인식을 높이기 위한 의도로 보입니다.

뉴사우스웨일스 대학교 AI 교수인 토비 월시는 다음과 같이 말했습니다: “우리는 우리의 미래를 형성하고 선의 길을 따를 것인지 결정해야 합니다. 우리는 최근의 눈을 멀게 하는 레이저 금지와 유사하게 공격적인 자율 무기에 대한 UN 금지를 촉구하는 여러 인도적 단체의 요청을 지지합니다.”

일론 머스크와 스티븐 호킹은 모두 고급 AI의 위험성에 대해 경고한 바 있습니다. 호킹은 AI가 “우리의 가장 큰 존재적 위협”이라고 말하며, 완전한 AI의 개발이 “인류의 종말을 의미할 수 있다”고 했고, 머스크는 AI가 “핵무기보다 잠재적으로 더 위험하다”고 말했습니다.

최근 워즈니악을 포함한 다른 이들은 AI에 대한 생각을 바꾸었으며, 애플 공동 창립자는 로봇이 인간에게 좋을 것이라고 말하며, 로봇이 “가족 애완동물처럼 되어 항상 돌봐야 한다”고 했습니다.

4월 제네바에서 열린 UN 회의에서 소위 “킬러 로봇”을 포함한 무기의 미래에 대해 논의하면서, 영국은 다양한 압력 단체의 요청에도 불구하고 자율 무기 개발 금지에 반대했습니다. 이는 킬러 로봇을 멈추기 위한 캠페인을 포함합니다.