이 로봇은 의도적으로 사람을 다치게 하고 피를 흘리게 할 수 있습니다

스카이넷 리덕스: 이 로봇은 사람을 의도적으로 다치게 하고 피를 흘리게 합니다

많은 AI와 로봇 옹호자들은 AI에 대한 지지를 아시모프의 로봇 공학의 첫 번째 법칙에 기반하고 있습니다.

아시모프의 로봇 공학 첫 번째 법칙은 매우 명확합니다: 로봇은 사람에게 해를 끼쳐서는 안 됩니다.

엘론 머스크를 포함한 종말론자들은 오랫동안 AI에 의한 터미네이터 스타일의 스카이넷 지배를 예측해왔지만, 옹호자들과 로봇 지지자들은 항상 AI와 로봇 공학의 혁신을 방어하기 위해 아시모프의 첫 번째 법칙에 의존해왔습니다.

확실히, 제조업에서 자주 사용되는 상당수의 대형 로봇들은 위험하다고 생각할 수 있지만, 로봇 공학자들은 그 규칙을 대체로 무시해왔습니다.

과학 소설의 거장 아이작 아시모프는 1942년 단편 소설 ‘러너라운드‘에서 이 “법칙”을 제정했으며, 그 세 가지 규칙 중 두 번째는 “로봇은 첫 번째 법칙과 충돌하지 않는 한 인간이 내린 명령에 따라야 한다.”고 읽습니다.

확실히, 로봇과 관련된 사고는 발생합니다. 예를 들어, 누군가 산업 로봇에 너무 가까이 다가갈 때 발생할 수 있습니다.

하지만 이제 캘리포니아 버클리의 한 남성이 윤리학자, 철학자, 변호사 및 기타 사람들과 기술이 어디로 가고 있는지, 로봇이 미래 문명에 어떤 위험을 초래할 것인지에 대한 건강한 대화를 시작하고자 합니다. 로봇 공학자이자 예술가인 알렉산더 레벤은 사람을 다치게 하는 것만을 목적으로 하는 테이블탑 로봇을 개발했습니다. 레벤은 그의 프랑켄슈타인이 사람들을 대화하게 만들기를 희망합니다.

문을 잠그고 창문을 막기 전에, 용어를 정의해 봅시다: 레벤의 로봇이 초래하는 해는 단지 핀프릭에 불과하지만, 이는 고속으로 전달되어 작은 바늘이 손끝에 가할 수 있는 최대한의 고통을 유발합니다.

그리고 재미있게도, 그는 부상이 비체계적으로 발생하도록 기계를 설계했습니다. 때로는 로봇이 공격하고, 때로는 그렇지 않습니다. 레벤조차도 위험에 손끝을 드러낼 때 피를 흘리게 될지 아닐지 전혀 알지 못합니다.

레벤이 거주하고 일하는 아름다운 빅토리아 양식의 저택의 꼭대기 층에 있는 큰 방에서, 그는 스토캐스틱 랩스의 일원으로서 “누구도 의도적으로 누군가를 다치게 하고 해를 끼치기 위해 만들어진 로봇을 실제로 만든 적이 없습니다. 나는 실제로 존재하는 이런 로봇을 만들고 싶었습니다… 그것은 생각 실험의 영역에서 현실로 가져오는 것이 중요했습니다. 왜냐하면 세상에 존재하는 무언가가 있으면 그것을 직면해야 하기 때문입니다. 그것은 더 긴급해집니다. 단순히 그것에 대해 설교할 수는 없습니다.”라고 주장합니다.

MIT 미디어랩의 연구원인 케이트 달링은 “로봇 기술의 근접 사회적 영향”을 연구하며, 실험에 대한 의견을 묻자 그녀는 로봇이 포함되어 있기 때문에 좋아한다고 말했습니다. “하지만 나는 그 안에 손을 넣고 싶지는 않습니다.”라고 덧붙입니다.

레벤은 아마도 블랩드로이드의 창조자로 가장 잘 알려져 있습니다. 블랩드로이드는 우연히 마주치는 사람들에게 그들의 삶에 대한 이야기를 하도록 동기를 부여하는 작고 해가 없어 보이는 로봇입니다. 수년 동안 그의 작업은 사람들이 기술과 맺는 관계와 그 기술이 어떻게 인류를 이해하는 데 도움을 줄 수 있는지에 초점을 맞추어 왔습니다.

그는 사람들이 로봇에 대해 점점 더 두려워하고 있다는 것을 잘 알고 있습니다. 이는 로봇이 우리에게 어떤 이론적인 신체적 위험을 초래하기 때문이거나, 많은 사람들이 로봇이 우리를 대체하려고 한다고 생각하기 때문입니다. 요즘 흔히 들리는 말은 “로봇이 지배할 것이다” 또는 “로봇이 우리의 일자리를 빼앗을 것이다”입니다.

레벤은 사람들이 실제로 로봇으로부터의 위험을 다루는 문제에 반대하도록 강요하고 싶어합니다. 일반적으로 이러한 작업은 학계에 맡겨질 수 있지만, 레벤은 어떤 연구 기관도 실제로 사람을 다치게 하는 로봇을 개발할 수 없다고 믿습니다. 마찬가지로, 그는 “고통을 의도적으로 유발하는 로봇을 만든 첫 번째 회사로 알려지고 싶지 않다.”고 믿습니다.

“점점 더 자율적인 기술이 발전함에 따라, 로봇을 우리가 항상 예측할 수 없는 행동을 하는 동물에 비유하는 것이 더 의미가 있을 수 있습니다.”

그는 이러한 것들을 예술 세계에 맡기는 것이 더 낫다고 말합니다. 왜냐하면 “사람들이 열린 마음을 가지고 있기 때문입니다.”

그의 로봇이 사람의 팔을 잘라내거나 누군가를 조각조각 부수는 것이 아니기 때문에, 큰 분노가 일어나지 않을 가능성이 있습니다. 적어도 그의 기계가 심각한 해를 끼치는 경우와는 다릅니다.

레벤은 법, 철학, 공학 및 윤리와 같은 다양한 분야의 사람들이 그가 만든 것을 주목하기를 희망합니다. “이러한 교차 학문적 사람들이 모여야 합니다.”라고 레벤은 말합니다. “그들 중 누구도 완전히 해결할 수 없는 문제를 해결하기 위해서입니다.”

그는 변호사들이 사람에게 해를 끼칠 수 있는 로봇과 관련된 책임 문제를 논의할 것이고, 윤리학자들은 그러한 실험을 생각하는 것이 괜찮은지 고민할 것이라고 상상합니다. 철학자들은 왜 그런 로봇이 존재하는지 고민할 것입니다.

그러나 아시모프의 법칙이 우리를 보호하지 못했을 것이라는 믿음에는 목적이 있습니다.

2014년, AI 이론가이자 금융 예측 회사인 에이디아 홀딩스의 수석 과학자인 벤 고에르첼은 io9에 “세 가지 법칙의 요점은 흥미로운 방식으로 실패하는 것이었습니다. 그것이 그들과 관련된 대부분의 이야기를 흥미롭게 만든 것입니다. 그래서 세 가지 법칙은 특정 규칙에 따라 윤리를 법제화하려는 모든 시도가 무너지고 다양한 허점이 생길 것이라는 점에서 교육적이었습니다.”라고 말했습니다.

실험이든 아니든, 달링은 레벤이 그의 로봇이 초래하는 해에 대한 윤리적 책임을 져야 한다고 주장합니다. 왜냐하면 그가 그것을 설계한 사람이기 때문입니다.

“우리는 자율 로봇을 다룰 때 해에 대한 윤리적 책임에서 점차 멀어질 수 있습니다.”라고 달링은 말합니다. “물론 법률 시스템은 여전히 책임을 부여하지만… 로봇의 행동을 예측할 수 없게 될수록, 해는 덜 ‘의도적’이 됩니다.”

기술이 발전함에 따라, 그녀는 우리가 기계에 대한 시각을 재고해야 할 수도 있다고 믿습니다.

“책임의 관점에서,” 달링은 말합니다. “로봇은 우리가 자신을 확장하는 도구 이상이 될 것입니다. 점점 더 자율적인 기술이 발전함에 따라, 로봇을 우리가 항상 예측할 수 없는 행동을 하는 동물에 비유하는 것이 더 의미가 있을 수 있습니다.”

그러나 레벤에게는 자율 기술이 발전함에 따라 사람들이 모래 속에 머리를 박지 않기를 바라는 것뿐입니다.

“나는 사람들이 그것의 물리성을 직면하기 시작하기를 원합니다.”라고 레벤은 말합니다. “그것은 철학적 영역 밖에서 조금 더 인식을 높일 것입니다.”

“예상치 못한 일이 발생할 상황은 항상 있을 것이며, 그것을 다루는 방법은 생각해야 할 중요한 일이 될 것입니다.”

패스트 컴퍼니.