옥스포드 대학교 연구에 따르면 인공지능(AI)은 인류에 대한 존재론적 위협이다

기계가 미래에 인간을 멸망시킬 것이라는 터미네이터 영화의 묘사

허구는 비옥한 광산의 상상이지만, 언젠가는 허구가 사실이 될 수 있을 것 같습니다. 아놀드 슈왈제네거가 주연한 영화 시리즈 터미네이터에서는 기계나 인공지능(AI)이 예기치 않은 미래에 인류를 멸망시킬 것이라고 묘사되었습니다. 옥스포드 연구자들은 이것이 실제로 일어날 수 있다고 믿고 있습니다.

옥스포드 대학교의 연구팀은 인류 전체에 대한 존재론적 위협이라고 주장하는 이유 목록을 제시했습니다. 그들은 AI가 인류를 파괴할 최대 잠재력을 가지고 있다고 느낍니다.

옥스포드 대학교 연구자들이 발표한 최근 보고서는 인류 문명을 끝낼 위협이 되는 12가지 주요 위험을 지적했습니다.

이 이유들은 다음 4가지 범주로 분류될 수 있습니다:

• a) 현재 위험: 극단적이고 불확실한 기후 조건, 핵전쟁, 재앙적인 생태 상황, 전 세계적인 팬데믹 및 재앙적인 질병으로 인한 시스템 붕괴를 포함합니다;
• b) 외부 위험 (외생적): 슈퍼 화산과 소행성 충돌과 같은 위험;
• c) 신흥 위험 (인간이 만든): 합성 생물학, 나노기술, 인공지능 및 아직 발표되지 않은 기타 불확실한 위험을 포함합니다;
• d) 글로벌 정책 위험: 전반적으로 나쁜 글로벌 거버넌스를 의미합니다.

저자 데니스 팜린과 스튜어트 암스트롱 박사는 이러한 위험을 명확히 언급하고 이 위험의 영향을 줄이기 위한 10가지 가능한 해결책을 제시했습니다.

12가지 위험 모두 인류에 대한 무한한 위협이지만, 신흥 위험 범주는 위험합니다. “인공지능” (AI)은 인류의 멸종을 의도적으로 초래할 수 있는 엄청난 잠재력을 가지고 있는 것으로 보입니다. 비록 합성 생물학과 나노기술이 AI와 함께 많은 기존 문제에 대한 해결책이 될 수 있지만, 잘못 사용될 경우 인류에 대한 최악의 도구가 될 수 있습니다.

“인공지능” (AI)이라는 용어는 1955년 존 맥카시가 만든 것으로, “초지능 소프트웨어” 또는 기계를 만드는 것을 의미합니다. 이는 과학과 공학의 조합으로 기계가 인간처럼 또는 그 이상으로 행동하고 사고하도록 하는 것입니다.

테슬라 모터스와 스페이스X의 CEO이자 페이팔의 공동 창립자인 일론 머스크는 AI의 위협에 대해 여러 번 경고했습니다. 머스크는 AI를 “인류에 대한 가장 큰 존재론적 위협”이라고 언급합니다. 최근 매사추세츠 공과대학교(MIT) 학생들에게 한 연설에서 머스크는 AI를 “악마”에 비유했습니다. 그는 이러한 “초지능 컴퓨터”가 스스로 작업을 시작하면 통제할 수 없는 악마로 변모할 수 있다고 확신합니다.

MIT 학생들에게 한 최근 연설에서 그는 다음과 같이 언급했습니다,

“우리는 인공지능에 대해 매우 조심해야 한다고 생각합니다. 우리가 가장 큰 존재론적 위협이 무엇인지 추측해야 한다면, 아마도 그것일 것입니다. 그래서 우리는 매우 조심해야 합니다. 저는 점점 더 국가 및 국제 차원에서 어떤 규제 감독이 있어야 한다고 생각하게 됩니다. 우리가 매우 어리석은 일을 하지 않도록 하기 위해서입니다.”

머스크는 페이스북의 마크 저커버그와 할리우드 배우 애쉬튼 커처와 함께 인간처럼 사고하는 스마트 지능형 컴퓨터를 구축하려는 목표를 가진 회사인 비카리어스에 투자했습니다! 머스크는 이 회사에 투자한 이유는 최종 제품이 “좋은 초지능 컴퓨터”가 되고 “재앙적인 괴물”이 되지 않도록 하기 위해서라고 말합니다.

그래서 머스크와 옥스포드 대학교 연구자들 외에도, 스티븐 호킹(이미 AI를 기반으로 한 “음성 합성기”를 제작한 유명한 물리학자)은 AI가 인류에 대한 중대한 위협으로 진화할 잠재력이 있다고 느끼고 있습니다.

현재 에릭 호르비츠라는 컴퓨터 과학자와 스탠포드 대학교의 생물공학 및 컴퓨터 과학 교수 러스 알트먼이 “AI100”이라는 위원회를 구성할 아이디어를 제안했습니다. 이 위원회의 기본 목표는 AI의 다양한 발전과 인류에 대한 전반적인 결과를 면밀히 주시하는 것입니다.

인간의 지능은 분명히 “초지능 기계”를 만들 수 있지만, 이러한 AI의 “사고”를 제어할 수 있을까요? 시간이 우리에게 그것을 알려줄 것입니다. 우리가 존재한다면, 아니면 종료된다면 말입니다!