인간에게 불복종하도록 교육받은 로봇, 자각하는 AI 시대의 시작을 알릴 수 있다

지금 우리가 이야기하는 인류의 끝의 시작인가?

매사추세츠주 터프츠 대학교의 연구자들은 로봇이 결정을 내릴 때 인간이 느끼는 것과 같은 감각을 이해하도록 교육하고 있습니다. 이렇게 되면 로봇은 인간의 명령을 따르거나 따르지 않을 수 있으며, 이는 우려할 만한 일입니다. 이는 미래형 기계를 수동으로 조작하지 않고도 구두로 작동할 수 있도록 하는 영리한 접근법으로 생각될 수 있지만, 로봇에게 명령을 불복종하도록 교육하는 것은 그리 스마트한 일이 아닙니다.

누군가가 ‘터미네이터’ 시리즈에 조금이라도 주의를 기울였다면, 인공지능(AI)이 자각하기 시작하면서 인류가 모두 멸망했다는 것을 깨달을 것입니다. 이는 자신의 존재를 보존하기 위해서입니다. 또한, 위대한 공상과학 작가 아이작 아시모프의 로봇 공학 3법칙은 다음과 같이 명시하고 있습니다:

1. 로봇은 인간에게 해를 끼치거나, 무행동으로 인해 인간이 해를 입도록 허용해서는 안 된다
2. 로봇은 첫 번째 법칙과 충돌하지 않는 한 인간이 내린 명령을 obey해야 한다
3. 로봇은 첫 번째 또는 두 번째 법칙과 충돌하지 않는 한 자신의 존재를 보호해야 한다.

작가는 나중에 위의 모든 법칙을 초월하는 하나의 법칙을 추가했습니다; 로봇은 인류에 해를 끼치거나, 무행동으로 인해 인류가 해를 입도록 허용해서는 안 된다. 일부 로봇 과학자들은 인공지능에 대해 실제로 두려워하고 있으며, 로봇이 너무 영리해질까 두려워하고 있습니다. 그들은 또한 로봇의 지능 요소가 주요 이유가 되지 않는다면, 특정 사물에 대한 통제를 부여받았을 때 그들의 무지로 인해 더 많은 인명 피해가 발생할 것이라고 우려하고 있습니다.

이를 방지하기 위해, 터프츠 대학교의 인간-로봇 상호작용 연구소의 연구자들은 로봇이 충분한 이유가 있을 경우 인간의 명령을 거부할 수 있음을 이해하도록 하는 특정 유형의 프로그래밍을 개발하고 있습니다. 그러나 이 이유는 그들의 존재가 위협받고 있다고 느낄 경우 자신의 존재를 보호하는 것으로 해석될 수 있습니다.

게다가, 이러한 로봇을 인간의 통제 범위 내에 유지하기 위한 프로그래밍이 충분하지 않을 수 있습니다. 왜냐하면 로봇이 이러한 명령을 무시할 가능성도 있기 때문입니다. 어떤 경우든, 과학자들은 최악의 상황에 대비하기 시작해야 합니다.