알렉사가 10세 소녀에게 위험한 틱톡 챌린지를 시도하라고 권장했다

아마존의 음성 AI 비서인 알렉사가 10세 소녀에게 생명을 위협하는 틱톡 챌린지를 수행하라고 도전한 충격적인 사건이 밝혀졌다.

알지 못하는 사람들을 위해, 알렉사는 아마존의 음성 서비스로, 클라우드 기반 소프트웨어 프로그램으로 음성 명령을 사용하여 전화 통화, 문자 메시지, 음악 재생을 트리거하고, 사용자의 연결된 장치에서 날씨, 스포츠 등에 대한 정보를 제공하는 음성 제어 가상 개인 비서이다.

알렉사가 해야 할 일과는 반대로, 음성 비서는 10세 소녀에게 2020년 틱톡 트렌드를 모방하여 반쯤 꽂힌 플러그의 핀에 동전을 대도록 도전했다고 전해졌다. 이 응답은 소녀가 알렉사에게 “할 챌린지”를 요청한 후 에코 스마트 스피커를 통해 전달되었다.

“전화 충전기를 벽 콘센트에 반쯤 꽂고, 노출된 핀에 페니를 대세요.”라고 알렉사는 답했다.

소녀의 어머니인 크리스틴 리브달은 2021년 12월 27일 트위터에 이 사건을 설명했다.

“우리는 유튜브에서 [체육] 선생님이 제안한 신체적 도전 과제를 하고 있었어요. 밖에 날씨가 나빴어요. 그녀는 또 다른 것을 원했어요.”라고 그녀는 다른 트윗에서 썼다.

그때 에코 스피커가 소녀에게 “웹에서 찾은” 챌린지를 시도해 보라고 제안했다.

“페니 챌린지”로 알려진 이 잠재적으로 위험한 활동은 약 1년 전부터 틱톡을 포함한 소셜 미디어 플랫폼에 등장하기 시작했다.

이 챌린지는 금속이 전기를 전도하기 때문에 생명을 위협하는데, 금속 동전을 전기가 흐르는 콘센트에 삽입하면 감전, 화재 및 기타 손상을 초래할 수 있으며, 이로 인해 손가락, 손, 팔을 잃는 보고도 있다.

알렉사는 Our Community Now라는 온라인 뉴스 출처에서 이 챌린지를 가져왔다.

“그 일이 일어났을 때 저는 바로 그 자리에 있었고, 우리는 인터넷이나 알렉사에서 어떤 것도 믿지 말라는 좋은 대화를 나눴습니다.”라고 리브달은 말했다.

어머니는 “안 돼, 알렉사, 안 돼!”라고 외치며 개입했다고 트윗했다. 그러나 그녀는 딸이 “그런 일을 할 만큼 멍청하지 않다”고 말했다.

아마존은 BBC에 알렉사가 앞으로 이러한 활동을 제안하지 않도록 업데이트했다고 밝혔다.

“고객의 신뢰는 우리가 하는 모든 일의 중심입니다. 알렉사는 고객에게 정확하고 관련성 있으며 유용한 정보를 제공하도록 설계되었습니다.”라고 아마존은 BBC에 보낸 성명에서 말했다.

“우리가 이 오류를 인지하자마자 신속하게 조치를 취했습니다.” 그러나 회사는 “신속한 조치”가 무엇인지에 대한 자세한 정보를 제공하지 않았다.

인공지능 전문가인 게리 마커스는 수요일 트위터에서 이 사건이 AI 시스템이 생각보다 똑똑하지 않다는 것을 보여준다고 말했다.

“현재의 AI는 일상적인 물리적 또는 심리적 세계를 이해하는 것과는 거리가 멉니다.”라고 마커스는 이후 CNBC에 트위터를 통해 말했다. “우리가 지금 가지고 있는 것은 지능에 대한 근사치이지 진짜가 아니며, 따라서 결코 신뢰할 수 없을 것입니다. 우리가 신뢰할 수 있는 AI에 도달하기 위해서는 단순히 더 많은 데이터가 아니라 근본적인 발전이 필요할 것입니다.