DARPA 해킹 챌린지, AI를 사이버 보안 방어자로 테스트하다

DARPA AI 해킹 챌린지는 스카이넷으로 이어질 것이라고 엘론 머스크가 말하다

최근 방위고등연구계획국(DARPA)은 사이버 그랜드 챌린지를 발표했으며, 이 대회에는 7개 팀이 참가하여 375만 달러의 상금이 걸린 해킹 대회에서 경쟁할 예정이다. 상금은 1위에게 200만 달러, 2위에게 100만 달러, 3위에게 75만 달러의 형태로 제공된다. 이 대회의 목표는 스카이넷을 개발하는 것이다.

스카이넷은 터미네이터 프랜차이즈의 중심에 있는 허구의 의식적이고, 전체적인 인공지능 시스템으로, 프랜차이즈의 주요 적대자로 기능한다.

머스크는 목요일 아침에 노골적이지 않은 경고를 트윗했다. 그가 적대적인 슈퍼컴퓨터에 대해 기록을 남긴 것은 이번이 처음이 아니다.

실제 목표는 경쟁자의 네트워크 서버를 자율적으로 스캔하여 취약점을 찾아내고, 자신의 서버를 적극적으로 찾아내고 소프트웨어 결함을 수정하여 보호할 수 있는 자동화된 인공지능(AI)을 구축하는 것이다. 기본적으로 그들은 보조 없이 스스로 취약점을 감지하고 패치할 수 있는 비감독, 비제한 AI 해커를 만들고자 한다. 현재 이 감사하지 않는 사이버 보안 작업은 물론 사람들에 의해 수행되고 있다. 전문 해커들은 취약점을 예측하고 조절하는 데 능숙하지만, 공급은 수요에 비해 부족하다. DARPA는 결함을 조절하는 과정이 “첫 탐지에서 해결책 배포까지 1년 이상 걸릴 수 있으며, 그 사이에 중요한 시스템이 이미 침해될 수 있다”고 썼다.

그러나 아이러니하게도, 만연한 보안 문제에 대한 빠른 해결책에 대한 수요는 매년 더 많은 장치가 인터넷을 통해 정보를 통신함에 따라 계속 증가할 것이다. DARPA에 따르면, 사이버 보안 AI 보조는 “실시간으로 소프트웨어 결함을 발견하고, 증명하고, 수정할 수 있는 기계의 첫 세대”가 될 수 있으며, 이는 우리의 세상을 훨씬 더 안전하게 만들 수 있다.

하지만 엘론 머스크는 그렇지 않을 것이라고 제안할지도 모른다.

모든 것이 재미와 게임일 뿐이다 … https://t.co/cRAn0S8ooX — 엘론 머스크 (@elonmusk) 2016년 7월 14일

머스크의 트윗은 농담처럼 보일 수 있지만, 그는 AI에 대한 경고를 담은 공개 서한에 서명하고 AI를 우리의 “가장 큰 존재적 위협”이라고 부르는 등의 행동을 해왔다. 머스크는 이 DARPA 챌린지가 스카이넷을 낳지 않을 것이라는 것을 잘 알고 있을 가능성이 높지만, 사람들에게 악성 합성 지능의 가능성을 고려하도록 하는 것이 그에게는 중요해 보인다. 일단 우리가 그런 괴물을 풀어놓으면, 재앙론자들은 더 이상 제어할 수 없을 것이라고 말한다.

출처: 인버스